Размышления – это наше основное средство познания мира. Как все изменится, если думать начнут машины?

Управление по вопросам научно-технической политики при президенте США призывает к разработке «билля о правах», который позволил бы защитить американцев в условиях «мира, основанного на технологиях искусственного интеллекта (ИИ)». Волнения касательно проникновения ИИ в жизнь людей вполне обоснованы и широко известны: многие боятся, что ИИ будет нарушать границы частной жизни и скомпрометирует прозрачность процессов, а также что предвзятые вводные данные будут выливаться в предвзятые конечные результаты, в том числе в таких важных для личного и общественного процветания сферах, как медицина, охрана правопорядка, прием на работу и выдача кредитов.

Однако развитие ИИ повлечет за собой еще одну фундаментальную перемену: он бросит вызов главенству человеческого мышления. На протяжении всей истории люди стремились понять окружающий мир и свою роль в нем. Начиная с эпохи Просвещения мы считали мышление —способность исследовать, понимать и объяснять — нашим основным средством познания мира. Именно через познание мира люди вносили свой вклад в его развитие. Последние 300 лет, то есть в эпоху, которую историки называют «веком разума», мы вели себя соответствующим образом: мы изучали, экспериментировали, изобретали и строили.

Теперь же ИИ — продукт человеческой изобретательности — постепенно подтачивает главенство человеческого мышления. Он исследует и начинает разбираться в самых разных аспектах существования мира гораздо быстрее нас. Он делает это иначе, чем мы, и в некоторых случаях такими способами, которые не доступны нашему пониманию.

В 2017 году компания Google DeepMind создала программу под названием AlphaZero, которая научилась выигрывать в шахматы, освоив эту игру без участия человека и выработав не совсем человеческую стратегию. Когда гроссмейстер Гарри Каспаров увидел, как она играет, он отметил, что AlphaZero потрясла концепцию шахмат «до самого основания». Программа не играла быстрее или эффективнее, но она как будто полностью переосмыслила шахматы.

В 2020 году появился новый антибиотик под названием халицин. Его открыли ученые Массачусетского технологического института, которые поручили ИИ провести расчеты, выходящие за рамки возможностей человеческого мозга, смоделировать миллионы вариантов и изучить ранее не исследованные и прежде никогда не объяснявшиеся методы уничтожения бактерий. Сделав это открытие, ученые отметили, что без помощи ИИ на открытие халицина при помощи традиционных экспериментальных методов пришлось бы потратить «запредельно много денег» — другими словами, его открытие было бы невозможным.

Языковая программная модель GPT-3, которой управляет компания OpenAI и которая обучается путем обработки текстов из интернета, уже способна создавать оригинальный текст. По сути, это литературное произведение, отвечающее предложенному Аланом Тьюрингом стандарту «разумного» поведения, которое невозможно отличить от поведения человека.

Технологии ИИ чрезвычайно многообещающи: переводы с самых разных языков, диагностика заболеваний, борьба с изменением климата — или как минимум более совершенное моделирование процесса изменения климата. Однако, как показали успехи программы AlphaZero в шахматах, изобретение халицина и сочинения GPT-3, использование ИИ для достижения заданной цели может повлечь за собой непредвиденные последствия, а именно открытие ранее неизвестных, но потенциально существенных аспектов реальности.

Это ставит людей перед необходимостью определить — или, вероятно, переосмыслить — нашу роль в мире. На протяжении 300 лет, то есть всего «века разума», люди руководствовались принципом «я мыслю — значит я существую». Но если ИИ тоже «мыслит», то кто тогда мы?

Если ИИ напишет лучший сценарий года, нужно ли давать ему «Оскара»? Если ИИ сможет смоделировать или провести самые важные дипломатические переговоры года, нужно ли присудить ему Нобелевскую премию мира? Или же ее нужно будет присудить людям, которые создали алгоритм данного искусственного интелелекта? Могут ли машины иметь «творческий» потенциал? Нужно ли создавать новые слова для описания их процессов?

Если ребенок, пользующийся поддержкой ИИ-помощника, начнет считать его «другом», что станет с отношениями этого ребенка со сверстниками? И что будет с его социальным и эмоциональным развитием?

Если ИИ способен заботиться о старушке в доме престарелых — напоминать ей о приеме лекарств, сообщать медперсоналу, если она упала, и составлять ей компанию другими способами, — смогут ли члены семьи навещать ее реже? Да и вообще нужно ли будет навещать ее? Если она большую часть времени будет общаться с машиной, а не с людьми, каким будет ее эмоциональное состояние на закате жизни?

Если в разгар войны в условиях неясности боевой обстановки ИИ рекомендует принять меры, которые могут повлечь за собой ущерб и даже жертвы среди мирного населения, должен ли командир прислушаться к нему?

Эти вопросы возникают все чаще теперь, когда глобальные платформы, такие как Google, Twitter и Facebook используют ИИ, чтобы накапливать и анализировать все больше информации о своих пользователях, да и не только о них. Затем ИИ принимает решения касательно того, что важно и — все чаще — что истинно. Действительно, главным обвинением разоблачительницы Фрэнсис Хауген (Frances Haugen) в адрес Facebook стало то, что руководству компании хорошо известно, что алгоритмы накопления и фильтрации данных усиливают влияние дезинформации и усугубляют психические недуги у пользователей.

Чтобы ответить на эти вопросы, необходимо действовать сразу в нескольких направлениях. Нужно рассмотреть не только практические и правовые аспекты существования ИИ, но и философские: если ИИ воспринимает такие аспекты реальности, которые люди воспринять не в состоянии, как это может повлиять на восприятие, познавательные способности и взаимодействие людей? Может ли ИИ подружиться с людьми? Каким окажется воздействие ИИ на культуру, человеческую природу и историю?

Кроме того, необходимо расширить рассмотрение вопроса о воздействии ИИ на жизнь человека, выйдя за рамки разработчиков и регуляторов и задумавшись о таких сферах, как медицина, здравоохранение, окружающая среда, сельское хозяйство, бизнес, психология, философия, история и так далее. Цель этих усилий должна заключаться в том, чтобы избежать чрезмерно резких реакций. Нам не нужно полное подчинение ИИ, но, с другой стороны, нам не нужны и жесткие ограничения. Нам нужно поискать золотую середину, то есть способы внушить ИИ человеческие ценности, такие как достоинство и свобода воли, которые так ценит человек. В Соединенных Штатах необходимо создать комиссию под руководством правительства, в состав которой должны войти эксперты и мыслители из самых разных сфер. Развитие ИИ неизбежно, однако мы в состоянии повлиять на то, каким будет его конечный итог.