Белый дом объявил о пакете мер против потенциальных рисков, связанных с гонкой искусственных интеллектов. Это произошло после встречи президента Джо Байдена и вице-президента Камалы Харрис с главами крупнейших технологических компаний, ведущих разработки в этой сфере. Там обсуждался вопрос морального долга по защите общества от опасных сторон развития ИИ, пишет Русская служба Би-би-си.
На этой неделе регуляторы рынка в США и Британии подняли вопрос о законодательных ограничениях индустрии после новых заявлений о ее потенциальных опасностях со стороны специалистов.
В четверг на встречу в Белый дом пришли главы основных игроков на рынке революционных исследований в области ИИ: Сундар Пичаи из Google, Сатья Наделла из Microsoft и Сэм Олтмен из Open AI — компании, разработавшей популярный чат-бот ChatGPT.
Политики заявили предпринимателям, что на тех лежит «фундаментальная ответственность»: они должны убедиться, что их продукты безопасны, прежде чем обнародовать их и запускать в широкое пользование.
В Белом доме также отметили, что администрация президента не исключает введения нового законодательства, которое бы регулировало исследования в области ИИ, и объявили о выделении госфинансирования на создание новых исследовательских институтов.
По словам Сэма Олтмена, все присутствовавшие предприниматели на удивление не имели разногласий касательно регуляции отрасли в будущем.
Все они также согласились на открытое тестирование своих ИИ-систем на конференции по кибербезопасности DEFCON, которая пройдет в августе этого года.
«Принципы этики, надежности и ответственности»
Недавно появившиеся продукты на основе ИИ-технологий, такие как чат-боты ChatGPT и последовавший за ним Bard компании Google, быстро вошли в обиход у пользователей во всем мире.
Эти компьютерные программы, призванные имитировать реальный диалог с пользователем, в ответ на запрос ищут в интернете информацию и составляют из нее ответ, сформулированный максимально естественно.
Распространение чат-ботов вызвало озабоченность в связи с тем, что если технологии ИИ продолжат развиваться бесконтрольно, это может привести к опасным последствиям для людей: от неуправляемых потоков дезинформации, распространения труднораспознаваемых фейков и нарушений копирайта до масштабного закрытия рабочих мест и даже потери контроля над цивилизацией.
В США большинство исследований в области искусственного интеллекта ведутся частными компаниями, и их работа на данный момент не регулируется.
После встречи с предпринимателям Белый дом выпустил заявление о том, что хочет усилить государственный сегмент на этом рынке и вкладывает 140 млн долларов в создание семи новых исследовательских институтов.
Их работа будет направлена на координацию усилий федеральных агентств, университетов, частных компаний и других организаций.
Эти институты будут работать над продвижением систем искусственного интеллекта, «соответствующих принципам этики, надежности и ответственности и направленных на общественное благо», говорится в заявлении Белого дома.
Призывы к регулированию
В среду глава Федеральной торговой комиссии США призвала к введению государственного регулирования отрасли. В четверг британское ведомство, регулирующее рынки и конкуренцию, также заявило, что начинает свою проверку работы индустрии, занимающейся исследованиями в области ИИ.
Эти заявления о мерах со стороны американских и британских регуляторов последовали после недели предупреждений от экспертов.
В понедельник ученый Джеффри Хинтон, известный как «крестный отец ИИ», ушел из компании Google, чтобы иметь возможность без оглядки на корпоративные правила говорить об опасностях, связанных с искусственным интеллектом. При этом он назвал подход самой Google к этим технологиям ответственным.
В Британии советник правительства по научным вопросам Патрик Валланс, также покидая свой пост на этой неделе, призвал министров принять меры до того, как развитие ИИ приведет к гигантским социальным и экономическим пертурбациям.
«Для рынка рабочей силы последствия будут сравнимыми с последствиями Промышленной революции. Работу сможет выполнять ИИ, и это означает две вещи: многие потеряют работу, и многие получат работу, на которую способны только люди», — сказал Валланс.
Он напомнил, что изначально промышленный переворот, начавшийся около 200 лет назад, привел к сокращению экономики, но потом люди сумели адаптироваться к новой ситуации, появились профессии, которых раньше никто не мог предположить.
В марте открытое письмо о рисках, связанных с ИИ, подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк.
Они призвали взять паузу в исследованиях в сфере искусственного интеллекта, пока не будут разработаны законы, регулирующие отрасль.
Другие специалисты, такие как Билл Гейтс, призывают фокусироваться на благах, связанных с развитием ИИ, и не останавливать исследования.
Гейтс приветствует участие правительств в регулировании индустрии для сокращения рисков, и также говорит о том, что преуспевающие государства должны целенаправленно инвестировать в ИИ для помощи, в первую очередь, беднейшим странам мира.
В США также звучат и такие голоса, которые, наоборот, призывают воздерживаться от избыточного регулирования и искусственных ограничений в развитии индустрии, чтобы Китай не обогнал Америку в гонке искусственных интеллектов.