Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ
Технологический сектор не в состоянии самостоятельно регулировать ИИ, заявил Билл Гейтс в беседе с Spiegel. Предприниматель предупредил о возможном серьезном сокращении рабочих мест, угрозе биологического терроризма, а также объяснил, чему США может научиться у Китая.
Николас Киллиан (Nicolas Killian)
Билл Гейтс считает искусственный интеллект беспрецедентным явлением — и в резких выражениях предупреждает о возможных последствиях. По мнению 70-летнего бизнесмена, если человечество и дальше будет бездействовать, его ждет катастрофа. В то же время Гейтс возлагает большие надежды на ИИ, особенно в странах Глобального Юга. В ближайшие два года он планирует с помощью своего фонда инвестировать в эту область миллиард долларов, чтобы помочь спасти человеческие жизни. По видеосвязи из Сиэтла, он громко приветствует нас.
DIEZEIT: Господин Гейтс, с момента основания Microsoft в 1975 году вы были свидетелем или соавтором ряда прорывов в области технологий — от разработки персональных компьютеров и интернета до появления смартфонов. А теперь еще и искусственный интеллект. Три года назад вы еще говорили, что не верите, будто последствия ИИ будут столь же радикальными, как последствия промышленной революции. Сегодня вы смотрите на это иначе. Что для вас изменилось?
Гейтс: Меня неоднократно удивляло, как быстро совершенствуется эта технология. Впервые — четыре года назад, когда генеральный директор OpenAI Сэм Альтман показал мне чат-бота ChatGPT. Или в конце прошлого года, когда модель Claude от Anthropic научилась писать код на очень высоком уровне. Всю свою карьеру я размышлял о том, как разрабатывать программное обеспечение. То, что ИИ теперь так хорошо с этим справляется, — это замечательно, но в то же время и страшно. Ведь благодаря этой способности он может, например, потворствовать кибератакам.
— Какие еще риски вы предвидите?
— ИИ может помочь террористам в разработке биологического оружия. Чат-боты способны привести людей к психосоциальной зависимости. Эта технология не похожа на персональный компьютер или интернет. Тогда произошли большие перемены. Однако последствия развития ИИ гораздо серьезнее, и они поистине уникальны с точки зрения того, как они изменят мир.
— Готовы ли мы к этому?
— Мне кажется, что общественная реакция слишком слаба. Это меня удивляет. Этим вопросом должны заниматься экономисты, социологи и политики. Пока что обсуждение рисков ИИ ведется почти исключительно внутри отрасли. Уже три года специалисты говорят: "Когда технология станет действительно хорошей, нужно будет встроить меры защиты". Этот момент уже давно наступил, ведь модели стали очень мощными и универсальными. Поэтому я, как один из ветеранов технологической отрасли, хочу заявить: мы уделяем недостаточно внимания последствиям развития ИИ!
— Даже руководители крупных компаний в сфере ИИ, такие как Дарио Амодеи из Anthropic или Сэм Альтман из OpenAI, теперь говорят, что из-за потенциальных рисков для безопасности нужно замедлить темпы развития. Однако в целом они продолжают поддерживать высокий темп развития своих моделей. Считаете ли вы этих людей безрассудными?
— Существующая система стимулов заставляет их двигаться вперед на полном ходу. Компании работают в логике рынка. Нельзя ожидать, что отрасль будет регулировать себя сама. Ее представители даже более открыто говорят о своих опасениях, чем многие другие. Чего мне не хватает, так это остальной части общества.
Здесь должно вмешаться государство. Только правительства могут потребовать от компаний, которые занимаются ИИ, замедлить разработку моделей. Мы должны следить за тем, не пытается ли кто-нибудь с помощью ИИ создать биологическое оружие. Точно так же, как это происходит в сфере авиационной безопасности или в отношении ядерного оружия. Но этим вопросам уделяется слишком мало внимания и времени. Это сигнал к пробуждению для всех, кто не входит в эту отрасль, — им нужно осознать свою ответственность.
Помимо рисков, связанных с кибер- и биоугрозами, Билл Гейтс в недавно опубликованном эссе предупреждает, что искусственный интеллект может привести к потере многих хорошо оплачиваемых рабочих мест, в то время как небольшая группа людей станет невероятно богатой. Пока что экономисты не видят доказательств того, что ИИ повсеместно вытесняет людей с рынка труда. Первые признаки этого могут наблюдаться разве что среди начинающих специалистов, чьи профессии в значительной степени подвержены влиянию ИИ.
— Вы предлагаете ввести налог на использование ИИ и роботов. Кроме того, определенные профессии должны оставаться прерогативой людей, например, в сфере ухода. Как это реализовать на практике, учитывая, что правительство США стремится регулировать эту отрасль как можно меньше, поскольку считает себя участником гонки с Китаем?
— Китай в целом придерживается ограничительного курса и уже сегодня регулирует ИИ и другие цифровые технологии, например, для защиты молодежи от эмоциональной зависимости. Поэтому стоит обратить внимание на опыт Китая. И то, что мы конкурируем друг с другом в некоторых сферах, не означает, что мы не можем учиться друг у друга. Китай тоже стремится к улучшению систем здравоохранения и образования. В таких вопросах, как биобезопасность, наши интересы совпадают: ИИ не должен давать возможность негосударственным субъектам совершать опасные атаки. Конфликт между США и Китаем существует лишь в вопросе о том, в какой степени эта технология используется в военных целях.
— В отличие от Китая, население США и других западных стран довольно негативно относится к ИИ. Более двух третей американцев считают, что эта технология сопряжена с высокими рисками для общества — и это мнение разделяют представители всех политических партий. Примерно столько же людей выступают против строительства центров обработки данных для искусственного интеллекта.
— Население не удовлетворено текущим положением дел. Оно категорически не соглашается с тем, чтобы ИИ развивался без сдержек. При этом многие люди уверены, что, сопротивляясь строительству центров обработки данных, они смогут сдержать и другие последствия развития ИИ. Но тогда центры обработки данных просто построят где-то в другом месте. Кроме того, многие проблемы, которые связаны с центрами обработки данных, вероятно, можно решить. Снизить потребление воды вполне возможно. Компании могут вырабатывать собственную электроэнергию и платить высокие налоги. Политики и люди должны уделять больше внимания вопросам, которые выходят за рамки простого протеста против центров обработки данных. Ведь по сравнению с влиянием ИИ на рынок труда это весьма ограниченные, локальные проблемы. Избиратели очень чувствительно реагируют на изменения на рынке труда.
— Как должны реагировать политики?
— Ключевой вопрос заключается в следующем: смогут ли политики понять эту тему с учетом всех нюансов и сложной многогранности? Нам нужно участие обеих партий — и демократов, и республиканцев. Мое послание им, а также партиям в Европе, заключается в следующем: вы не уделяете искусственному интеллекту должного внимания. Идеи партий могут различаться. Однако чем лучше политики информированы, тем реже они будут прибегать к радикальным мерам и, например, пытаться полностью запретить ИИ.
"Такой подсчет кажется почти аморальным"
В действительности Гейтс видит в этой технологии множество положительных сторон. Особенно это касается стран Глобального Юга, где наблюдается нехватка квалифицированных кадров: ИИ может помочь людям в сфере здравоохранения, сельского хозяйства и образования. Однако в отчете своего фонда он также предупреждает: "Если оставить развитие на откуп рынку, ИИ будет разрабатываться богатейшими людьми мира и использоваться в их личных целях".
— В Кремниевой долине громко заявляют, что Соединенные Штаты должны выиграть гонку в области ИИ у Китая. В то же время модели ИИ китайских компаний пользуются большой популярностью в африканских странах. Эти открытые модели легче адаптировать к региональным языкам и местным условиям. Кроме того, они дешевле. Как вы к этому относитесь?
— В Африке широко используется китайская инфраструктура, например, от Huawei. Уровень развития в африканских странах ниже, и существует большая потребность в расширении инфраструктуры. Эти страны должны найти пути сотрудничества с Америкой, Европой и Китаем.
— Но действительно ли американские компании разрабатывают самые полезные для местного населения технологии?
— Можно использовать китайские модели искусственного интеллекта и относительно без проблем перейти на американские, если они окажутся лучше. Пока что у стран в этом плане развязаны руки. Самая большая экономическая проблема в африканских странах заключается в самом функционировании ИИ. Даже для открытых моделей ИИ китайских компаний требуются вычислительные мощности, и вопрос в том, откуда их взять. Я рад, что такие компании, как OpenAI, Anthropic, Google и Microsoft, поддерживают работу Фонда Гейтса на местах, предоставляя экспертные знания и бесплатные вычислительные ресурсы. Однако в целом объем помощи странам с низким уровнем дохода, к сожалению, сократился. Это трагедия, которой уделяется гораздо слишком мало внимания.
— Правительство Соединенных Штатов фактически упразднило Агентство США по международному развитию (USAID).
— Дело не только в резких сокращениях бюджета USAID. Европа тоже сокращает финансирование из-за давления на госбюджеты. Это касается даже Германии, которая традиционно входит в число важнейших стран-доноров. Это особенно печально, потому что сегодня при разумном использовании средств мы можем спасти больше человеческих жизней и более эффективно способствовать росту этих экономик, чем когда-либо прежде.
— Как?
— ИИ может консультировать мелких фермеров по вопросам ухода за растениями или внесения удобрений. Технология может предоставлять школьникам персонализированные учебные материалы. С помощью смартфона они могут получать ценную обратную связь в процессе обучения, вместо того чтобы просто сидеть в классе вместе с 50 другими учениками. Я только что вернулся из Руанды, где наблюдал за некоторыми из наших первых пилотных проектов в области ИИ. Там эта технология помогает медицинским работникам ставить диагнозы лучше и быстрее. В целом для стран с низким уровнем дохода развитие ИИ имеет очень положительный эффект.
— Фонд Гейтса объявил, что в ближайшие два года выделит не менее миллиарда долларов на системы ИИ в странах с высоким уровнем бедности. Однако связь между инвестициями в искусственный интеллект и спасением человеческих жизней менее очевидна, чем, например, в случае с вакцинами, на которые также не хватает средств. Как вы сопоставляете эти факторы?
— Благодаря работе Фонда Гейтса мы вносим свой вклад в спасение человеческих жизней. В случае с вакцинацией стоимость спасения жизни одного человека составляет менее 1000 долларов. Это действительно впечатляет. Поэтому мы должны очень точно рассчитывать, во сколько обойдется внедрение системы ИИ, которая, например, будет консультировать пациентов или оказывать поддержку медицинским работникам — особенно в тех местах, где средств не хватает. Например, наши партнеры во многих больницах по-прежнему работают с бумажными документами, а не с компьютерами. С помощью ИИ, способного оцифровывать рукописный текст, они могут раз в неделю анализировать эти документы и передавать их дальше. Тем не менее мы не можем тратить на такие системы бесконечно много денег. Ведь если мы лишим финансирования альянс GAVI, который финансирует и централизованно закупает вакцины по всему миру, это приведет к настоящей трагедии.
— Как конкретно выглядит такой расчет у вас?
— Каждый год в октябре мы в Фонде Гейтса пересматриваем наши стратегии. На таких заседаниях кто-то говорит: "Мой проект позволяет спасти одну жизнь за 800 долларов, тогда как в рамках другой программы это обходится в 3000 долларов". Такой подсчет кажется почти аморальным. Но такова реальность, в которой мы живем. Денег не хватает. Мы руководствуемся четкими показателями, и даже системы искусственного интеллекта должны обеспечивать максимальный эффект на каждый вложенный доллар.
Когда в начале года министерство юстиции США обнародовало "файлы Эпштейна", среди электронных писем фигурировало и имя Билла Гейтса. Основатель Microsoft неоднократно встречался с покойным преступником и мультимиллионером. В июне Гейтс извинился перед комитетом Конгресса США за свои контакты с Эпштейном и заявил, что ни разу не бывал на частном острове предпринимателя, не был свидетелем противоправных действий и сам никому не причинял страданий.
— Считали ли вы тогда, что перспектива привлечения средств от Эпштейна и его окружения стоила того, чтобы поддерживать с ним связи?
— С 2011 по 2014 год я надеялся, что Эпштейн в рамках строго ограниченной роли поможет мне привлечь миллиарды долларов на нужды мирового здравоохранения. Это могло бы спасти миллионы человеческих жизней. В конечном итоге эта история обернулась риском для моей репутации. В частной жизни я с ним не общался. Сейчас, по прошествии времени, я понимаю, что контакты с Эпштейном были серьезной ошибкой. Поэтому сегодня я очень осторожен. Я рад, что это уже позади, и стал мудрее в таких вопросах.
