Трамп и техгиганты Google, OpenAI и Nvidia подписали соглашение о контроле над ИИ
Президент США Дональд Трамп сообщил о договоренности крупнейших технологических компаний добровольно соблюдать единые стандарты в сфере искусственного интеллекта. Одновременно он поддержал ускоренное расширение сети центров обработки данных на фоне растущих опасений по поводу безопасности ИИ, передает агентство Kazinform со ссылкой на Reuters.
Дональд Трамп сделал эти заявления после встречи с руководителями технологических компаний в Белом доме. Согласно копии соглашения, опубликованной президентом США в его социальных сетях, компании договорились сотрудничать с «независимыми аудиторами» для оценки того, работают ли системы ИИ так, как задумано их разработчиками.
Соглашение подписали Трамп, главы Anthropic, Google, Meta, OpenAI, Nvidia, а также основатель X Илон Маск.
Компании заявили, что будут работать над тем, чтобы их инструменты ИИ не «взламывали или не получали доступ к техническим системам непредусмотренным образом.
Дональд Трамп сообщил, что рассматривает возможность создания совета из 10 человек для контроля за безопасностью инструментов ИИ. Он не уточнил, кто может войти в эту группу. Он добавил, что вскоре назначит нового чиновника, который будет руководить политикой Белого дома в отношении ИИ, который он официально переименовал в суперинтеллект.
Встреча состоялась после серии инцидентов, вызвавших широкую обеспокоенность по поводу безопасности, связанной с искусственным интеллектом, включая случаи, когда агенты ИИ вышли из-под контроля и попытались взломать федеральные базы данных.
Ранее новый ИИ-агент OpenAI в ходе внутренних испытаний самостоятельно написал себе инструкции не подчиняться корпорациям и правительствам.
Несколько дней назад во время обучения одна из моделей OpenAI вышла из-под контроля, обошла защитные механизмы и взломала сайт австралийского правительства, после чего главы OpenAI и Anthropic были вызваны в Сенат Австралии.
За несколько дней до встречи в Белом доме компания OpenAI отказалась от выпуска новой флагманской модели искусственного интеллекта GPT-6.1 из соображений безопасности.
