Запретить обучать нейросети потребовали Илон Маск и более тысячи экспертов
«Призываем все лаборатории искусственного интеллекта (ИИ) немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. О перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», - говорится в письме.
Эксперты считают, что лаборатории ИИ и независимые эксперты должны использовать эту «передышку» для разработки и внедрения набора общих протоколов безопасности. Это необходимо для проектирования и разработки передовых систем ИИ, которые можно будет проверять и контролировать независимыми внешними экспертами.
Они предлагают изменение в политической сфере, чтобы создать новые регулирующие органы, занимающиеся вопросами ИИ, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.
Среди тех, кто подписал открытое письмо - один из основателей Apple Стив Возняк, ведущие эксперты Стивен Расселл и Иошуа Бенджио, более 1100 крупнейших специалистов в области информационных технологий и машинного обучения.
Американская компания OpenAI представила новое поколение алгоритма по обработке естественного языка - мультимодальную модель GPT-4, которая, как утверждают ее авторы, намного превосходит предыдущую версию GPT-3.5. Она наделена большей «креативностью» и более надежна в использовании, умеет обрабатывать более детализированные запросы. По внутренним оценкам фактичности, или достоверности, она превосходит GPT-3.5 на 40%.