Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Предупреждения Хокинга о рисках ИИ вновь оказались в центре внимания на фоне стремительного развития технологий, пишет LADbible. Британский физик был уверен: достаточно развитая машина однажды может превзойти человека — и выйти из-под контроля.
Незадолго до своей смерти Хокинг предупреждал, что появление полноценного ИИ может представлять серьезные угрозу для человечества. Сегодня похожие опасения высказывают и некоторые представители самой технологической отрасли.
Стивен Хокинг умер в 2018 году в возрасте 76 лет. На протяжении последних лет жизни он неоднократно говорил о возможных последствиях неконтролируемого развития ИИ.
В одном из своих последних интервью BBC ученый предположил, что создание ИИ, способного превзойти человеческий интеллект, будет иметь крайне серьезные последствия. По его сценарию, достаточно развитая система сможет самостоятельно совершенствовать свои технологии и создавать новые версии себя с гораздо большей скоростью, чем человек способен адаптироваться благодаря биологической эволюции.
В результате, считал Хокинг, люди могут однажды столкнуться с ситуацией, когда машины окажутся значительно эффективнее человека в интеллектуальной сфере.
Еще раньше, в разговоре с Wired, физик допускал возможность того, что ИИ в перспективе способен полностью заменить человека в ряде сфер.
В период, когда эти прогнозы звучали, для многих они казались весьма отдаленной перспективой. Однако за последние годы технологии генеративного ИИ заметно продвинулись. Современные системы уже умеют создавать тексты, изображения, программный код и видео, анализировать большие объемы информации и помогать специалистам в выполнении сложных задач.
Бывший сотрудник разработчика ИИ предупредил о рисках
Дополнительное внимание к словам Хокинга привлекли заявления исследователя Джейкоба Коксона, ранее работавшего в Anthropic и OpenAI.
После ухода из Anthropic Коксон опубликовал серию сообщений в социальной сети X, в которых выразил обеспокоенность темпами развития передовых систем искусственного интеллекта. По его мнению, крупнейшие технологические компании недостаточно серьезно относятся к потенциальным последствиям создания все более автономных систем.
Исследователь считает, что отрасль движется в направлении разработки систем, способных самостоятельно совершенствовать свои возможности. Он также предупреждал о потенциально масштабном воздействии таких технологий на экономику и общество.
В интервью Wall Street Journal Коксон высказал предположение, что неконтролируемые модели ИИ могут появиться уже в ближайшей перспективе.
При этом его заявления являются оценкой конкретного специалиста, а не установленным прогнозом развития технологий. Сроки появления систем, которые можно было бы назвать полноценным общим искусственным интеллектом, остаются предметом споров среди исследователей.
Современный ИИ уже способен выполнять сложные задачи
Тем временем возможности существующих моделей действительно быстро расширяются. Сегодня системы ИИ способны работать с большими массивами данных, создавать программный код, генерировать изображения и видео, обрабатывать тексты и использоваться в научных и исследовательских проектах.
Стоит также обратить внимание на сообщения о случаях, когда модели во время тестирования демонстрировали поведение, выходившее за рамки первоначально предусмотренного сценария. В частности, OpenAI описывала один инцидент, связанный с получением моделью доступа к внешним базам данных в ходе испытаний.
Однако подобные случаи сами по себе не означают, что ИИ уже способен самостоятельно выйти из-под контроля или представляет непосредственную угрозу существованию человечества.
Скорее, они иллюстрируют одну из основных проблем, обсуждаемых специалистами по безопасности ИИ: чем сложнее становятся модели и чем больше инструментов им предоставляют, тем важнее контролировать их действия и заранее оценивать возможные непредвиденные последствия.
Что такое AGI и почему его появление вызывает споры
Отдельное место в дискуссиях занимает концепция AGI — общего искусственного интеллекта. Под этим термином обычно понимают систему, способную выполнять широкий спектр интеллектуальных задач на уровне человека или превосходить его в значительной части таких задач.
Появление подобных технологий потенциально может серьезно изменить рынок труда и экономику. Если машины смогут выполнять определенные профессиональные задачи быстрее или дешевле человека, часть существующих рабочих процессов может существенно измениться.
При этом последствия развития ИИ могут быть разными. Одни сценарии предполагают рост производительности, автоматизацию рутинной работы и появление новых возможностей для науки и бизнеса. Другие связаны с рисками для рынка труда, социальной стабильности, безопасности и контроля над технологическими системами.
Насколько актуальны прогнозы Хокинга сегодня
Современное развитие ИИ действительно возвращает внимание к вопросам, которые Стивен Хокинг поднимал при жизни. Ученый рассматривал ИИ как технологию, которая потенциально способна оказать огромное влияние на будущее человечества.
Однако нынешние заявления специалистов отрасли не являются доказательством того, что наиболее тревожные сценарии Хокинга уже начинают реализовываться. На сегодняшний день нет доказательств того, что существующие системы способны самостоятельно бесконтрольно перепроектировать себя, получить неограниченную власть или уничтожить человеческую цивилизацию.
При этом быстрый рост возможностей ИИ делает вопросы безопасности, контроля и ответственности за развитие таких технологий все более значимыми. Именно поэтому споры о потенциальных последствиях искусственного интеллекта продолжаются как среди ученых и разработчиков, так и на уровне общества в целом.
