Microsoft вводит новые ограничения для ИИ в школах США
Microsoft вводит рамочные ограничения и стандарты конфиденциальности для систем искусственного интеллекта, используемых в школах США, передает Kazinform со ссылкой на Euronews.
Новые правила согласованы со вторым по величине профсоюзом учителей страны.
Соглашение запрещает использование ИИ-компаньонов и функций, которые могут формировать у школьников эмоциональную привязанность или зависимость, а также удерживать их внимание дольше, чем требуется для выполнения учебного задания. Стандарты имеют юридическую силу и предусматривают независимые аудиты.
Microsoft также обязалась не использовать данные учащихся и преподавателей для обучения своих ИИ-систем, за исключением ограниченного набора данных, необходимого для защиты учеников. Собранная информация не должна продаваться, использоваться для рекламы или разработки продуктов.
Кроме того, компания должна будет в понятной форме объяснять семьям, как работают ее ИИ-инструменты и какие данные они собирают. Новые стандарты начнут применяться ко всем школьным контрактам Microsoft в США с 1 ноября.
Аналогичные соглашения с американским профсоюзом учителей обсуждают OpenAI и Anthropic. Обе компании заявили о поддержке инициатив по усилению безопасности ИИ и защите данных в образовательной среде.
Ранее сообщалось, что Meta обязали выплатить $567 млн из-за вреда детям в соцсетях.
