В компании считают, что уже в ближайшие годы технология может достичь уровня, при котором начнет совершенствоваться практически без участия человека, пишет DW.
Предупреждение прозвучало после того, как рыночная стоимость Anthropic достигла $965 млрд.
В опубликованном заявлении говорится, что темпы развития искусственного интеллекта остаются чрезвычайно высокими. По оценке Anthropic, уже к 2027 году ИИ-системы смогут выполнять сложные задачи за часы или дни, тогда как человеку на это потребуются недели.
В компании считают, что миру необходимо дополнительное время для оценки возможных последствий технологического прогресса и разработки механизмов безопасности.
— Если бы существовал эффективный способ замедлить развитие этой технологии и получить больше времени для решения связанных с ней проблем, это, вероятно, было бы полезно, — заявили представители Anthropic.
Развитие искусственного интеллекта в компании сравнили с вопросами контроля над вооружениями. По мнению разработчиков Claude, крупнейшие исследовательские центры в разных странах могли бы договориться о временном ограничении работ на одинаковых условиях.
При этом в Anthropic признают, что реализовать подобную инициативу будет непросто из-за технологического соперничества между США и Китаем.
Некоторые эксперты относятся к таким заявлениям скептически. Британская газета The Daily Telegraph со ссылкой на специалистов пишет, что Anthropic может преувеличивать скорость развития ИИ. По их мнению, подобные предупреждения способны повлиять на регулирование отрасли и создать дополнительные сложности для конкурентов компании.
Ранее сообщалось, что Anthropic стала самым дорогим стартапом в сфере искусственного интеллекта, обогнав OpenAI по рыночной оценке.
Рост Anthropic усилил конкуренцию на рынке искусственного интеллекта. В марте OpenAI оценили в $852 млрд после рекордного инвестиционного раунда на $122 млрд.