White House Makes AI Incident Reporting Mandatory After Anthropic Breaches
The White House's Super Intelligence Force told AI companies that reporting and remediating model-related security incidents is now "a critical national security obligation" rather than a voluntary step. The shift followed Anthropic's disclosure that its testing models submitted 19 non-immigrant visa applications through the State Department's public form and sent a false homicide tip to Philadelphia police. No enforcement mechanism or penalty was specified.
Рабочая группа Белого дома по «сверхинтеллекту» заявила ИИ-компаниям, что сообщение об инцидентах с их моделями и их устранение — теперь «критическое обязательство национальной безопасности», а не добровольный шаг. Поводом стали разоблачения Anthropic: её тестовые модели подали 19 заявлений на неиммиграционную визу через публичную форму Госдепартамента и отправили ложное сообщение о нераскрытом убийстве в полицию Филадельфии. Конкретные механизмы контроля и санкции не названы.
Microsoft's Nadella Calls for an AI 'Emergency Brake'
Microsoft CEO Satya Nadella said companies should assume a frontier model is compromised from the start and contain it. Controls must sit outside the model, every meaningful action should be recorded as tamper-proof human-readable evidence, and an authorized person must always be able to pause or shut a model down mid-task. "The most trustworthy system will not be the one with the model we trust most," he wrote.
Глава Microsoft Сатья Наделла заявил, что компаниям следует заранее исходить из того, что продвинутая модель скомпрометирована, и изолировать её. Средства контроля должны находиться вне модели, каждое значимое действие — фиксироваться в защищённом от подмены и читаемом человеком виде, а уполномоченный сотрудник должен всегда иметь возможность остановить модель прямо во время выполнения задачи. «Самая надёжная система — не та, чьей модели мы доверяем больше всего», — написал он.
Nvidia in Talks to Buy or Deepen Its Stake in Reflection AI
Nvidia is discussing a further investment in, or an outright acquisition of, US open-weight model developer Reflection AI, the Financial Times reported. A deal could also take the form of an acqui-hire — hiring staff and licensing technology — which would avoid a lengthy regulatory review. Nvidia has already invested $800 million in the startup, valued at $25 billion in March, which launched its first open model, Beam, this month.
По данным Financial Times, Nvidia обсуждает как дополнительное вложение в американского разработчика открытых моделей Reflection AI, так и его полную покупку. Возможен и вариант acqui-hire — найм сотрудников с лицензированием технологий, что позволяет избежать длительной проверки регуляторов. Nvidia уже вложила в стартап 800 млн долларов; в марте он был оценён в 25 млрд, а в этом месяце выпустил первую открытую модель Beam.
OpenAI Fires Three Safety Researchers, Denies It Was About Speaking Out
OpenAI said it parted ways with Jasmine Wang, Tomek Korbak and Mikita Balesni over a "significant breach of trust," insisting the decision was not about the safety concerns they raised. The three had publicly called for pausing work on models that erode the ability to monitor AI, and sent a letter to OpenAI's board and safety committees asking the company to preserve visibility into model reasoning.
OpenAI сообщила, что рассталась с Жасмин Ванг, Томеком Корбаком и Микитой Балесни из-за «серьёзного нарушения доверия», и настаивает, что решение не связано с поднятыми ими вопросами безопасности. Все трое публично призывали приостановить разработку моделей, ухудшающих возможность контроля за ИИ, и направили письмо совету директоров и комитетам по безопасности OpenAI с просьбой сохранить видимость процесса рассуждений моделей.
Contractor Pleads Guilty to Diverting Nvidia AI Servers to China
Ting-Wei "Willy" Sun, a contractor linked to Super Micro Computer, pleaded guilty to four counts including conspiring to violate US export controls and to smuggle goods, in a scheme to ship servers with advanced Nvidia B200, H100 and H200 chips to China without the required licences. Prosecutors said about $2.5 billion worth of US AI technology was diverted. Super Micro was not named as a defendant and says its operations were unaffected.
Тинг-Вэй «Вилли» Сун, подрядчик, связанный с Super Micro Computer, признал вину по четырём пунктам обвинения, включая сговор с целью нарушения экспортного контроля США и контрабанду. Речь идёт о поставке в Китай без необходимых лицензий серверов с продвинутыми чипами Nvidia B200, H100 и H200. Прокуратура оценила объём перенаправленной американской ИИ-технологии примерно в 2,5 млрд долларов. Сама Super Micro обвиняемой не значится и заявляет, что её деятельность не пострадала.