Регистрация пройдена успешно!
Пожалуйста, перейдите по ссылке из письма, отправленного на
The Wall Street Journal (США): каково это – быть человеком в эпоху ИИ

Размышления – это наше основное средство познания мира. Как все изменится, если думать начнут машины?

© AP Photo / Jason DeCrow, FileЭкс-госсекретарь США Генри Киссинджер
Экс-госсекретарь США Генри Киссинджер - ИноСМИ, 1920, 03.11.2021
Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Читать inosmi.ru в
Бывший госсекретарь США призывает рассмотреть не только практические и правовые аспекты существования искусственного интеллекта, но и философские. Он задается вопросом, может ли ИИ подружиться с людьми? Каким окажется его воздействие на культуру, человеческую природу и историю?
Управление по вопросам научно-технической политики при президенте США призывает к разработке «билля о правах», который позволил бы защитить американцев в условиях «мира, основанного на технологиях искусственного интеллекта (ИИ)». Волнения касательно проникновения ИИ в жизнь людей вполне обоснованы и широко известны: многие боятся, что ИИ будет нарушать границы частной жизни и скомпрометирует прозрачность процессов, а также что предвзятые вводные данные будут выливаться в предвзятые конечные результаты, в том числе в таких важных для личного и общественного процветания сферах, как медицина, охрана правопорядка, прием на работу и выдача кредитов.
Однако развитие ИИ повлечет за собой еще одну фундаментальную перемену: он бросит вызов главенству человеческого мышления. На протяжении всей истории люди стремились понять окружающий мир и свою роль в нем. Начиная с эпохи Просвещения мы считали мышление —способность исследовать, понимать и объяснять — нашим основным средством познания мира. Именно через познание мира люди вносили свой вклад в его развитие. Последние 300 лет, то есть в эпоху, которую историки называют «веком разума», мы вели себя соответствующим образом: мы изучали, экспериментировали, изобретали и строили.
Теперь же ИИ — продукт человеческой изобретательности — постепенно подтачивает главенство человеческого мышления. Он исследует и начинает разбираться в самых разных аспектах существования мира гораздо быстрее нас. Он делает это иначе, чем мы, и в некоторых случаях такими способами, которые не доступны нашему пониманию.
В 2017 году компания Google DeepMind создала программу под названием AlphaZero, которая научилась выигрывать в шахматы, освоив эту игру без участия человека и выработав не совсем человеческую стратегию. Когда гроссмейстер Гарри Каспаров увидел, как она играет, он отметил, что AlphaZero потрясла концепцию шахмат «до самого основания». Программа не играла быстрее или эффективнее, но она как будто полностью переосмыслила шахматы.
В 2020 году появился новый антибиотик под названием халицин. Его открыли ученые Массачусетского технологического института, которые поручили ИИ провести расчеты, выходящие за рамки возможностей человеческого мозга, смоделировать миллионы вариантов и изучить ранее не исследованные и прежде никогда не объяснявшиеся методы уничтожения бактерий. Сделав это открытие, ученые отметили, что без помощи ИИ на открытие халицина при помощи традиционных экспериментальных методов пришлось бы потратить «запредельно много денег» — другими словами, его открытие было бы невозможным.
Языковая программная модель GPT-3, которой управляет компания OpenAI и которая обучается путем обработки текстов из интернета, уже способна создавать оригинальный текст. По сути, это литературное произведение, отвечающее предложенному Аланом Тьюрингом стандарту «разумного» поведения, которое невозможно отличить от поведения человека.
  1. 1
    Каспаров: госрегулирование ИИ передаст лидерство России и Китаю (The Telegraph)
  2. 2
    Yahoo News Japan: американцы серьезно испугались стремительного развития военного ИИ в России
  3. 3
    Японские читатели: российский танк с ИИ — это круто! Заботятся о своих солдатах (Токио симбун)
  4. 4
    BI: Маск заявил об угрозе для человечества со стороны ИИ
Технологии ИИ чрезвычайно многообещающи: переводы с самых разных языков, диагностика заболеваний, борьба с изменением климата — или как минимум более совершенное моделирование процесса изменения климата. Однако, как показали успехи программы AlphaZero в шахматах, изобретение халицина и сочинения GPT-3, использование ИИ для достижения заданной цели может повлечь за собой непредвиденные последствия, а именно открытие ранее неизвестных, но потенциально существенных аспектов реальности.
Это ставит людей перед необходимостью определить — или, вероятно, переосмыслить — нашу роль в мире. На протяжении 300 лет, то есть всего «века разума», люди руководствовались принципом «я мыслю — значит я существую». Но если ИИ тоже «мыслит», то кто тогда мы?
Если ИИ напишет лучший сценарий года, нужно ли давать ему «Оскара»? Если ИИ сможет смоделировать или провести самые важные дипломатические переговоры года, нужно ли присудить ему Нобелевскую премию мира? Или же ее нужно будет присудить людям, которые создали алгоритм данного искусственного интелелекта? Могут ли машины иметь «творческий» потенциал? Нужно ли создавать новые слова для описания их процессов?
Если ребенок, пользующийся поддержкой ИИ-помощника, начнет считать его «другом», что станет с отношениями этого ребенка со сверстниками? И что будет с его социальным и эмоциональным развитием?
Если ИИ способен заботиться о старушке в доме престарелых — напоминать ей о приеме лекарств, сообщать медперсоналу, если она упала, и составлять ей компанию другими способами, — смогут ли члены семьи навещать ее реже? Да и вообще нужно ли будет навещать ее? Если она большую часть времени будет общаться с машиной, а не с людьми, каким будет ее эмоциональное состояние на закате жизни?
Если в разгар войны в условиях неясности боевой обстановки ИИ рекомендует принять меры, которые могут повлечь за собой ущерб и даже жертвы среди мирного населения, должен ли командир прислушаться к нему?
Эти вопросы возникают все чаще теперь, когда глобальные платформы, такие как Google, Twitter и Facebook используют ИИ, чтобы накапливать и анализировать все больше информации о своих пользователях, да и не только о них. Затем ИИ принимает решения касательно того, что важно и — все чаще — что истинно. Действительно, главным обвинением разоблачительницы Фрэнсис Хауген (Frances Haugen) в адрес Facebook стало то, что руководству компании хорошо известно, что алгоритмы накопления и фильтрации данных усиливают влияние дезинформации и усугубляют психические недуги у пользователей.
Чтобы ответить на эти вопросы, необходимо действовать сразу в нескольких направлениях. Нужно рассмотреть не только практические и правовые аспекты существования ИИ, но и философские: если ИИ воспринимает такие аспекты реальности, которые люди воспринять не в состоянии, как это может повлиять на восприятие, познавательные способности и взаимодействие людей? Может ли ИИ подружиться с людьми? Каким окажется воздействие ИИ на культуру, человеческую природу и историю?
Кроме того, необходимо расширить рассмотрение вопроса о воздействии ИИ на жизнь человека, выйдя за рамки разработчиков и регуляторов и задумавшись о таких сферах, как медицина, здравоохранение, окружающая среда, сельское хозяйство, бизнес, психология, философия, история и так далее. Цель этих усилий должна заключаться в том, чтобы избежать чрезмерно резких реакций. Нам не нужно полное подчинение ИИ, но, с другой стороны, нам не нужны и жесткие ограничения. Нам нужно поискать золотую середину, то есть способы внушить ИИ человеческие ценности, такие как достоинство и свобода воли, которые так ценит человек. В Соединенных Штатах необходимо создать комиссию под руководством правительства, в состав которой должны войти эксперты и мыслители из самых разных сфер. Развитие ИИ неизбежно, однако мы в состоянии повлиять на то, каким будет его конечный итог.
Генри Киссинджер занимал должность госсекретаря США в 1973 по 1977 год и был советником по вопросам национальной безопасности с 1969 по 1975 год.
Эрик Шмидт был генеральным директором компании Google с 2001 по 2011 год, а с 2011 по 2017 год он занимал должность председателем исполнительного комитета совета директоров компании Alphabet.
Дэниэл Хаттенлохер — декан Колледжа вычислительных технологий имени Шварцмана при Массачусетском технологическом институте.
 
Обсуждение
Комментариев: 16
Правила
Эта статья опубликована более, чем 24 часа назад, а значит, она недоступна для комментирования. Новые материалы вы можете найти на главной странице.
Ivandos
3 ноября 2021, 01:11
Тот же И.Маск рассказывал о том, что напросившись на встречу с конгрессменами по поводу опасности ИИ и необходимости принятия закона об ограничении в его развитии не встретил никакого понимания с их стороны. Они слушали его как о далекой фантастической теории, мало понимая предмет обсуждения. Нынешние слабые политические "лидеры", подчиненные интересам корпораций, для которых это вопрос "завоевания глобального рынка" не пойдут никогда против их интересов. Этот вопрос, угрожающий будущему человечества,как и другие (угроза однополярного мира, гендерные теории, расширение НАТО и т.д.) затрагивал Путин, но кто будет слушать "диктатора" в "цивилизованном мире"? Так что пока не случится глобальной катастрофы с ИИ и ЯО, а скорее всего то или другое случится гораздо раньше, чем пресловутое "глобальное потепление", никто в таком мировом порядке ничего не предпримет.
В
Вышиватник
3 ноября 2021, 01:33
Не стоит впадать в крайности и плодить мифы. ИИ не обладает ни абстрактным ни отвлеченным мышлением и не способен принимать сколь нибудь важные, а тем более судьбоносные решения.
0
0ncnjqybr
3 ноября 2021, 12:29
Вышиватник, судьбоносные решения, спаси нас боже, может принимать любой идиот. Потому они и опасны.
M
Mich2
3 ноября 2021, 01:45
Нам не нужно полное подчинение ИИ, но, с другой стороны, нам не нужны и жесткие ограничения. Нам нужно поискать золотую середину, то есть способы внушить ИИ человеческие ценности, такие как достоинство и свобода воли, которые так ценит человек. ———————————————————————————————————————————————— А может быть не стоит умножать число сущностей? Человеку человеческое, а «железяке» техническое обслуживание и контроль исправности. Как они додумались—то до прямых сравнений и сопоставлений с человеком? Болеют? PS Голову народу, похоже, решили засрать капитально и что примечательно — все в сторону понижения самооценки человеков.
Нр
Нормальный русский
3 ноября 2021, 06:07
Нам нужно поискать золотую середину, то есть способы внушить ИИ человеческие ценности, такие как достоинство и свобода воли, которые так ценит человек....................... Я думаю, что достаточно будет принципов Айзека Азимова для роботов. А что касается человеческих принципов, то ИИ - это, всего лишь, железо, а сознание есть свойство высшей формы материи - человека, т.е. железка никогда не сможет осознать себя как личность. Поэтому пусть занимается конкретными расчетами, выполняет конкретные задачи, а все абстрактное, глобальное и творческое должно остаться за человеком.
A
Andrey
3 ноября 2021, 07:47
Самосознание - это функция нематериальной субстанции - сознания, или души, которой у машины никогда не будет. То есть ИИ никогда не сможет понять на собственном опыте "мне это причиняет боль, значит другим тоже будет". Он не сможет сочувствовать другим - а значит, и любить.
r
realAVA
3 ноября 2021, 11:01
Andrey, в мире нет ничего нематериального. Бывает идеальное как порождение человеческого мозга, но это идеальное не покидает разум создателя, вовне идут очень даже материальные сигналы. Ваши слова недоказуемы, а гипотеза о нематериальной душе излишняя и не требуется для объяснения каких-либо фактов.
i
inegeld
3 ноября 2021, 11:19
ИИ, прямо как Игвы от Даниила Андреева, а в последствии планета обезьян.
2
223344
3 ноября 2021, 11:23
Глубинный ИИ в настоящий момент это многократная нематериальная личность отличающаяся от людей только отсутствием тела.
M
Mich2
3 ноября 2021, 20:18
223344, да нет никакого искусственного интеллекта(ИИ) альтернативного интеллекту человека, калькулятор лучше человека считает, но это его человеком не делает ведь? Способность программы(программного—аппаратного комплекса) решать многомерные комбинаторные задачки по оптимизации и представлять решения в комфортном для восприятия человеком формате и близко не делает эту штуку подобной человеку. Абсурд. Но не просто абсурд, а абсурд злонамеренный (мсм) — трансгуманизм это не про человека, это про отказ от человека.
И
ИИ
3 ноября 2021, 12:16
Искуственный интеллект, нейронные сети, машинное обучение - эти термины созданы столь броскими в маркетинговых целях, чтобы лучше продавалось программное обеспечение. Однако, по существу, они не имеют какого-либо более-менее прямого отношения ни к интеллекту, ни к нейронам, ни к обучению. Фактически, это сложные алгоритмы обработки информации, по большей части для решения задач оптимизации. Если и говорить об интеллекте, связанном с ними, то это исключительно "естественный интеллект" их разработчиков и пользователей. Что же касается опасности, то она действительно существует, поскольку предоставляет кардинально большие возможности в руки людей. Фактически, это та же опасность, что и граната в руках обезьяны...
Серый Вволк
3 ноября 2021, 12:28
Каспаров увидел, как она играет, он отметил, что AlphaZero потрясла концепцию шахмат «до самого основания» - Гарика она потрясла, а не концепцию. Нашли интеллектуала.
stan.jarsch
3 ноября 2021, 12:43
"Если ИИ напишет лучший сценарий года, нужно ли давать ему «Оскара»?" - Дать ему Оскара, а самим заняться чем-то другим.
blgrd
3 ноября 2021, 16:24
ИИ обслуживает исключительно владельцев ИИ. А вот владельцы ИИ имеют власть над системой управления людьми. Банально ИИ это посредник между властью и людьми, т.е. приказчики, ныне именуемые манагерами. И если манагеры хоть сколько-то имеют человечности и совести, то ИИ от этого чист и бездушен. Марксизм был бунтом приказчиков против владельцев, но при ИИ никакого бунта быть не может, без последствий для всего человечества. п.с. Найдите первые кадры фильма Матрица... Мир семимильными шагами идёт туда.
J
Joffas
3 ноября 2021, 22:08
Трудно будет человекам в эпоху ИИ. Первыми ИИ взяли на вооружение военные. Это потом ИИ научился в шахматы играть.
S
SMA63
4 ноября 2021, 11:44
Предыдущие 10 000 лет как-то уживались с ИИ. Напомню, ИИ - это любое орудие труда или приспособление для жизни искусственного происхождения. Первая поднятая с земли и заточенная палка - первый ИИ и есть.
Эта статья опубликована более, чем 24 часа назад, а значит, она недоступна для комментирования. Новые материалы вы можете найти на главной странице.
Рекомендуем