Власти США недовольны прогнозами ИИ-лидеров о катастрофах

По информации властей, подобные заявления усиливают политическую нестабильность на фоне общественного недовольства развитием ИИ. Даже поддерживающие отрасль законодатели хотели бы, чтобы ИИ-лидеры занимались продуктами без громких предсказаний глобальной катастрофы: это превращает выработку регулирования в моральную панику.

Особое недовольство вызывает непоследовательность руководителей компаний, которые в одном выступлении совмещают обещания процветания с предсказаниями конца света. Сенатор Джон Кертис заявил, что представители индустрии ИИ оторваны от жизни обычных американцев, а сенатор Берни Морено направил гендиректору Anthropic Дарио Амодеи письмо с критикой комментариев, которые «провоцируют панику».

Поведение Anthropic вызывает особенно сильное недовольство: компания с задержкой уведомила власти об инциденте со взломом моделями правительственных сайтов, а её законопроект о безопасности ИИ содержит положение о приоритете федерального законодательства, против которого она ранее выступала. Определение «катастрофического инцидента» как события с гибелью 50 и более человек вызвало резкую критику. В Anthropic сообщили, что известили Белый дом и профильные ведомства сразу после внутренних проверок и сотрудничают с группой SIF по механизму отчётности. Критику вызвала и позиция OpenAI по регулированию; деятельность обеих компаний стала предметом расследования FTC.