Блог

Aug 19, 2023

Байден

Технологии Перед администрацией Байдена стоит вопрос, связанный с крупнейшим технологическим достижением за последние годы: насколько велика угроза безопасности? Пока Конгресс изо всех сил пытается определить, какие новые законы следует принять в области ИИ,

Технологии

Перед администрацией Байдена над крупнейшим технологическим достижением за последние годы стоит вопрос: насколько велика это угроза безопасности?

Пока Конгресс изо всех сил пытается определить, какие новые законы следует принять в области ИИ, а федеральные агентства расширяют свои существующие полномочия в отношении новых технологий, Белый дом Байдена стал наиболее активным игроком в политике в области ИИ. | Оливье Дульери/AFP/Getty Images

Мохар Чаттерджи

10.08.2023 16:45 по восточному времени

Обновлено: 11.08.2023, 08:24 по восточному поясному времени.

Ссылка скопирована

В пятницу в отелях Лас-Вегаса некоторые из самых мощных в мире систем искусственного интеллекта подвергнутся одновременной атаке небольшой армии хакеров, пытающихся найти их скрытые недостатки.

Белый дом не только осознает публичные нападки, но и одобряет их.

В мае администрация Байдена поддержала преднамеренную, скоординированную тестовую атаку на системы искусственного интеллекта, получившую название «красная команда», которая будет проходить в течение трех дней на ежегодном хакерском съезде в эти выходные. Несколько ведущих компаний в области искусственного интеллекта, в том числе OpenAI, Google и Meta, согласились подвергнуть атаке некоторые из своих новейших и наиболее мощных систем искусственного интеллекта для проведения учений.

Хакерская атака подчеркивает то, что стало одной из ключевых проблем Белого дома по поводу мощных, быстро развивающихся новых моделей искусственного интеллекта: насколько они на самом деле безопасны и могут ли они представлять угрозу либо американским гражданам, либо национальной безопасности в мире. этап.

«Наша формулировка — и это исходит от президента — заключается в том, что для использования возможностей ИИ нам сначала необходимо также управлять рисками», — сказал Алан Мислов, высокопоставленный чиновник Управления научно-технической политики Белого дома, который помог организаторам хакерских соревнований разработать упражнения красной команды на этих выходных. «Для таких вещей, как большие языковые модели, эти риски довольно широки, во многих случаях могут быть менее очевидными, чем для других систем», и «охватывают наше общество, нашу экономику, национальную безопасность», — сказал он.

Пока Конгресс изо всех сил пытается определить, какие новые законы следует принять в области ИИ, а федеральные агентства расширяют свои существующие полномочия в отношении новых технологий, Белый дом Байдена стал наиболее активным игроком в политике в области ИИ. Он разработал концепцию Билля о правах ИИ, собрал руководителей технологических компаний и провел серию пресс-конференций, посвященных широкому спектру угроз и возможностей, связанных с этой технологией.

Хотя эти угрозы варьируются по всему обществу: от потери работы до дискриминации и дезинформации, многие из наиболее ощутимых шагов Белого дома были сосредоточены на проблеме безопасности. Новый специальный советник по вопросам искусственного интеллекта Бен Бьюкенен имеет скорее специализацию в области национальной безопасности, чем техническую подготовку. Когда в прошлом месяце Белый дом собрал лидеров искусственного интеллекта, чтобы объявить о ряде добровольных обязательств, «безопасность» возглавила список, и безопасность сыграла ключевую роль в этом документе.

Высокий приоритет безопасности отражает обеспокоенность — среди экспертов, регулирующих органов и самой отрасли — тем, что сложные новые системы искусственного интеллекта создают целый ряд новых проблем, которые не до конца понятны, от их возможности быть взломанными и неверно направленными злоумышленником, до идеи, что они могут раскрыть пользовательские данные для более темных целей, таких как создание биологического оружия.

«Эти модели могут делать то, что их дизайнеры и поставщики не ожидают или не хотят, чтобы они могли делать. Так что да, я думаю, что существуют реальные соображения безопасности», — сказал Арати Прабхакар, директор Управления научно-технической политики Белого дома.

ИИ также может быть инструментом повышения безопасности: на этой неделе Пентагон объявил о двухлетнем задании разработчикам по использованию ИИ для усиления критически важной американской кибербезопасности.

В рамках конкурса «красная команда», который пройдет в эти выходные, Белый дом объединился с AI Village на DEF CON, ежегодном съезде, на котором организаторы устраивают хакерские военные игры, а специалисты по кибербезопасности выявляют новейшие дыры в вездесущих технологиях. Правительственные учреждения, такие как Пентагон, уже обращались к хакерскому сообществу для поиска уязвимостей кибербезопасности: в прошлом году на хакерском мероприятии DEF CON участник обнаружил дефект в электрической микросети армии после того, как предоставил ей ложные данные о погоде.