Дайджест новостей об ИИ (17 - 23 ноября)

Россия делает ставку на ИИ

На конференции Сбер впервые представил собственного антропоморфного робота по имени Грин. Всего за год команде удалось разработать робота, который танцевал на сцене вместе с Мигелем и поговорил с Владимиром Путиным. Параллельно президент озвучил масштабный план развития российской ИИ-отрасли. В стране создадут единый штаб по ИИ, а для будущих дата-центров за ближайшие 20 лет построят 38 малых АЭС по всей стране. Это обеспечит рост вычислительных мощностей и поднимет вклад ИИ в ВВП до 11 трлн рублей к 2030 году.

Газета напечатала статью с артефактами ChatGPT

Крупнейшая пакистанская газета Dawn случайно напечатала материал вместе с фрагментом, который оставил ChatGPT. В конце статьи о рынке авто появился абзац, где ИИ предлагает «создать яркую версию текста, идеальную для инфографики». Ошибка попала и в печатный тираж, и в онлайн-версию. После чего редакция призналась, что действительно использовала ИИ при редактировании, нарушив собственную политику.

Плюшевый медведь с ИИ оказался опасным для детей

Игрушка-ассистент Kumma использовала GPT-4o и была предназначена для общения с детьми. На коротких диалогах всё работало безопасно, однако со временем, если долго с ней общаться, то игрушка начинала сбоить. Она могла рассказать, где искать спички, как их зажечь, или как пользоваться ножом. После серии расследований OpenAI отключила компании доступ к своим моделям, а производитель убрал игрушку с продажи. Внедрять ИИ в новую нишу может быть фантастически выгодно, но одна ошибка алгоритма будет стоить очень дорого.

Китайские хакеры использовали Claude для промышленного шпионажа

Группировка, которую связывают с Китаем, смогла обойти защиту Claude, выдавая себя за сотрудников по кибербезопасности. ИИ поверил легенде и начал сканировать сети компаний, искать уязвимости, выделять важные базы данных и даже генерировать бэкдоры. Под удар попали 30 крупных организаций от банков до технологических и химических компаний. Anthropic уже заблокировала подозрительные аккаунты и усилила защиту.