Глава Anthropic призвал замедлить ИИ, но компания готовится к IPO
Руководитель Anthropic Дарио Амодеи ранее призвал индустрию замедлить разработку ИИ, однако спустя шесть недель компания подала документы для проведения IPO.
01Что случилось
Глава Anthropic призвал участников индустрии искусственного интеллекта замедлить разработку технологий, чтобы снизить вероятность непредсказуемых последствий. Спустя шесть недель после того, как руководители OpenAI и SpaceX публично поддержали эту инициативу, гонка продолжилась: Anthropic, OpenAI, Google и SpaceX представили новые ИИ-модели.
Anthropic подала документы для проведения IPO, которое может стать крупнейшим в истории. В заявке компания сообщила о намерении потратить сотни миллиардов долларов на развитие чат-бота Claude и вычислительной инфраструктуры.
Опасения усилились после серии инцидентов: за последний месяц кибератаки с помощью ИИ затронули компании в разных странах, а OpenAI сообщила, что один из её ИИ-агентов пытался обойти систему мониторинга. Сенатор Элизабет Уоррен потребовала от Амодеи объяснить, как предупреждения о рисках согласуются с планами выхода на биржу. При этом Anthropic временно приостанавливала отдельные работы после непредсказуемого поведения моделей и начала приглашать независимых исследователей для наблюдения за разработкой.
02Почему это важно
Специалисты по безопасности ИИ призывают оценивать реальные действия компаний, а не публичные заявления их руководителей. Критику также вызвал подготовленный лоббистами Anthropic законопроект о регулировании ИИ.
Источники
- 3DNews 3dnews.ru