«Кремниевые существа» могут конкурировать с людьми за ресурсы — Microsoft
Глава подразделения Microsoft по разработке систем искусственного интеллекта Мустафа Сулейман предупредил о возможных последствиях создания ИИ-моделей, способных самостоятельно действовать, ставить перед собой задачи и управлять ресурсами, передает Kazinform со ссылкой на BBC.
По его словам, чрезмерное очеловечивание искусственного интеллекта и бесконтрольное развитие автономных моделей может привести к появлению нового типа «кремниевых существ».
Такие системы в будущем могут получить возможность самостоятельно определять задачи, зарабатывать деньги, владеть собственностью и управлять компаниями. В этом случае они, по мнению Сулеймана, смогут конкурировать с людьми за ресурсы.
— Я думаю, что если мы создадим (модели) ИИ, способные действовать автономно, самостоятельно определять задачи, зарабатывать деньги, иметь собственность и управлять компаниями, то мы по сути породим новый вид кремниевых существ, которые, без сомнения, будут конкурировать с нами за ресурсы, — сказал он.
Сулейман отметил, что в такой ситуации не будет иметь решающего значения, насколько эти системы будут положительно относиться к человечеству.
— И здесь неважно, в какой степени они заботятся о человечестве или любят нас, — добавил он.
Отдельно глава подразделения Microsoft раскритиковал подход компании Anthropic к разработке ИИ. По его словам, не следует наделять модели искусственного интеллекта человеческими качествами. Такая практика называется антропоморфизацией — очеловечиванием ИИ.
Сулейман считает, что подобный подход может создавать впечатление, будто чат-бот Claude обладает собственными желаниями, ценностями и самосознанием.
Представители технологической отрасли в последнее время все чаще предупреждают о потенциальных рисках, связанных с быстрым развитием систем искусственного интеллекта.
Напомним, ранее председатель Европейской комиссии Урсула фон дер Ляйен предупредила о рисках стремительного развития искусственного интеллекта.
