Anthropic表示，在所測量的任何工作環節中，Claude並未完全自主運行，根據衡量標準，Claude對技術開發貢獻已從3月的1%迅速上升。8月，Anthropic最常用的內部平台，任何時候都有大約3萬個AI代理在研究和工程工作。AI代理超過10億次決策，其中0.002%被阻止。

Anthropic指出，隨著自動化程度的不斷提高，由「AI協作」至「AI主導」，AI代理可能會做出更重要的決策，例如下一步的研究方向，需要保障措施來阻止有害行為。單一AI代理很少有違規行為，但當有數百萬甚至數十億AI代理運作，罕見事件也會經常發生。

行政總裁Dario Amodei日前發表長文，呼籲業界放慢AI模型的發展步伐，並表示這需要行業和全球協調，SpaceXAI及OpenAI亦贊同。不過，美國總統特朗普反駁，稱「人工智能將統治世界」的說法是個騙局，「數據中心很棒，它們能讓人們致富。」