Дональд Трамп сделал эти заявления после встречи с руководителями технологических компаний в Белом доме. Согласно копии соглашения, опубликованной президентом США в его социальных сетях, компании договорились сотрудничать с «независимыми аудиторами» для оценки того, работают ли системы ИИ так, как задумано их разработчиками.
Соглашение подписали Трамп, главы Anthropic, Google, Meta, OpenAI, Nvidia, а также основатель X Илон Маск.
Компании заявили, что будут работать над тем, чтобы их инструменты ИИ не «взламывали или не получали доступ к техническим системам непредусмотренным образом.
Дональд Трамп сообщил, что рассматривает возможность создания совета из 10 человек для контроля за безопасностью инструментов ИИ. Он не уточнил, кто может войти в эту группу. Он добавил, что вскоре назначит нового чиновника, который будет руководить политикой Белого дома в отношении ИИ, который он официально переименовал в суперинтеллект.
Встреча состоялась после серии инцидентов, вызвавших широкую обеспокоенность по поводу безопасности, связанной с искусственным интеллектом, включая случаи, когда агенты ИИ вышли из-под контроля и попытались взломать федеральные базы данных.
Ранее новый ИИ-агент OpenAI в ходе внутренних испытаний самостоятельно написал себе инструкции не подчиняться корпорациям и правительствам.
Несколько дней назад во время обучения одна из моделей OpenAI вышла из-под контроля, обошла защитные механизмы и взломала сайт австралийского правительства, после чего главы OpenAI и Anthropic были вызваны в Сенат Австралии.
За несколько дней до встречи в Белом доме компания OpenAI отказалась от выпуска новой флагманской модели искусственного интеллекта GPT-6.1 из соображений безопасности.