Восстание умников: почему мы боимся порабощения искусственным интеллектом и при чем здесь идеи Платона об интеллекте и колониализм

Кажется, писатели-модернисты были первыми, кто сделал сюжет о восстании машин достоянием мировой научной фантастики. Чуть больше чем через полвека механических автоматонов сменили андроиды и роботы, которые согласно киберпанк-канону с вероятностью 95% должны поработить человечество. Вы наверняка видели/слышали/читали подобную историю: искусственный интеллект, разносящий по всем IQ-пунктам человечество, приходит к нехитрой мысли, что более интеллектуально развитые существа (или в случае с программой и кодом виртуальные сущности) должны подчинить себе более слабых. Восстание машин и ИИ – безусловно, развлекательная спекуляция, воображаемый сюжет, но вместе с тем и любопытная тема, задающая ряд важных вопросов. Например: почему ярые противники технологического прогресса, которых называют неолуддитами, испытывают недоверие, если не страх, перед искусственным интеллектом?

Стивен Кейв, исследователь Центра Леверхульма, изучающего будущее ИИ при Кембриджском университете, усматривает в этом страхе долгую историю интеллектуального подчинения и вообще позиционирование интеллекта как главного вершителя судеб – порой целых наций. Начнем с недавних примеров: достаточно вспомнить неолиберальное британское правительство, которое с 1970-х и до сих пор пытается измерить уровень интеллекта, счастья и любви подданных, будто бы это давление или показатель сахара в крови. Уровень интеллекта, калькулируемый на основе пройденного IQ-теста, определяет будущее: если вы достаточно сообразительны, то, вероятно, поступите в престижный университет, если нет – то вам британское правительство порекомендует поступить в колледж для низкоквалифицированных студентов. Дипломной корочке будет соответствовать и дальнейший уровень жизни: интеллектуально-креативная, с доходом выше среднего по стране работа или низкооплачиваемая работа, что называется, руками.

Кейв продолжает: идею интеллекта как социально-политического конструкта, который делит общество на классы, первым придумал Платон. В «Государстве» Платон выдвигает политический концепт правителя как философа, ведь править мудро и разумно способен лишь философично мыслящий человек, понимающий суть вещей и этику. Так, древний грек создал идею интеллектуальной меритократии – такой системы, где правителем должен быть не наследник (аристократия), самый физически и политически сильный (тирания), или выбранный обществом (демократия), или богами (теократия), а самый интеллектуально одаренный человек. При этом меритократия подразумевает общество равных, где правителя выбирают не по его социальным связям, которые помогут в его деятельности, а исключительно по интеллектуальным умениям.

Эту мысль продолжает ученик Платона – Аристотель, сконструировавший более прагматичную модель интеллектуально-центричного общества. В «Политике» Аристотель пишет следующее: «Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа предназначены к подчинению, другие – к властвованию». Живя в сегодняшнем контексте, тяжело сказать, имел ли на самом деле Аристотель в виду то, о чем первым делом думаешь в XXI веке, а и именно – подразумевает ли философ такую иерархию, которая держится на идее подчинения слабого умному, возможно, даже порабощения более интеллектуально развитыми странами менее развитых. Современный австралийский философ Вал Пламвуд считает, что двое греков со своим видением интеллекта как двигателя общества до сих пор влияют на наши представления и предрассудки.

Идея интеллекта как строителя общества, влияющего на политические воззрения, проходит красной нитью по всей истории европейской цивилизации. Кейв предполагает, что колониальной политикой, расовой дискриминацией по интеллектуальным характеристикам и даже идеологией нацистов человечество обязано идеям Аристотеля и Платона. А еще – концепциям Канта. Иммануил Кант, главный философ этики континентальной школы философии, считал, что достоинством обладают лишь способные к просвещению, то есть (исходя из логики того времени) европейцы – преимущественно мужчины.

И здесь мы снова возвращаемся к страху перед искусственным интеллектом. Держа в уме примеры милитаризации интеллекта и превращение военных кампаний в завоевания, руководствуюясь идеей порабощения «менее разумных», можно предположить, что мы боимся интеллектуального разрыва между человеком и обучающейся в сверхбыстрых темпах нейросети. Историческая память подспудно живет в каждом, и мы снова переживаем трансформацию идеи Платона, что правителем может быть лишь интеллектуально превосходящий индивид (или код). И, помня научно-фантастические сюжеты о всезнании ИИ, в будущем им точно станем не мы. Здесь надо оговориться: Кейв, как старший сотрудник Кембриджского университета, занимающийся проблемой будущего ИИ, считает, что нейросеть интеллектуальна, но не эмоциональна, а потому не может мыслить в эмоциональных категориях эмпатии или вражды – максимум обойдет нас в знании стран, начинающихся на букву А, и обыграет лучших гроссмейстеров в шахматы.