После призывов к замедлению темпов развития моделей искусственного интеллекта в США продолжается обсуждение предложений по «регулированию» этой технологии.
Согласно сообщению CNN, неназванные источники утверждают, что компании Anthropic, Google и OpenAI, известные своими разработками в области искусственного интеллекта, рассматривают вариант «создания собственного органа для определения отраслевых стандартов».
Источники отметили, что на проведение этих переговоров повлияла не столько отставка исследователя из Anthropic Джейкоба Коксона, сколько опубликованная в июле статья соучредителя Google DeepMind Демиса Хассабиса, в которой он предложил модель организации по стандартам искусственного интеллекта под руководством США.
Источники, утверждающие, что эти переговоры продолжаются и будут продолжаться «независимо от участия» администрации президента США Дональда Трампа, отметили, что все лидеры технологического сектора «не пришли к единому мнению» по вопросу контроля над искусственным интеллектом.
В своей статье Хассабис предложил, чтобы это учреждение, находящееся под контролем правительства и функционирующее на основе сотрудничества государственного и частного секторов, проводило тестирование передовых моделей искусственного интеллекта до их внедрения в эксплуатацию.
Генеральный директор американской компании Anthropic, занимающейся искусственным интеллектом, Дарио Амодеи опубликовал 12 сентября на сайте компании статью после того, как исследователь компании Джейкоб Коксон подал в отставку, мотивировав это тем, что в вопросах искусственного интеллекта не проявляется достаточной ответственности.
Амодей предупредил, что развитие технологий искусственного интеллекта, происходящее с геометрической прогрессией, может превзойти способность человека понимать и контролировать эти системы, и предложил замедлить развитие этой технологии таким образом, чтобы обеспечить больше возможностей для контроля.
Илон Маск поддержал Амодеи, который обратил внимание на необходимость объединения компаний, занимающихся искусственным интеллектом, для определения стандартов безопасности и выработки определенных правил, регулирующих темпы вывода ИИ на рынок, написав в X: «Дарио прав». Генеральный директор OpenAI Сэм Альтман также отметил, что согласен с этим предложением и предпримет аналогичные шаги в отношении независимой оценки.
В своей статье Амодей подчеркнул, что администрация США должна ужесточить ограничения на экспорт микросхем в Китай и не допустить, чтобы китайские лаборатории по искусственному интеллекту «извлекали» данные из моделей американских компаний с помощью метода, известного как «дистилляция».
Ранее сообщалось, что в ЕС начали разбирательство вокруг назначения представителя по ИИ.