Topic

#Anthropic

Anthropic est une entreprise américaine de recherche en sécurité de l'IA, fondée en 2021 par d'anciens membres d'OpenAI. Elle développe la famille de modèles de langage Claude, conçus avec une attention particulière à l'alignement et à la fiabilité.

40Articles
9Sources
54Signal moyen
The Decoder·

Anthropic shutdown sparks sovereignty debate across Europe

La Commission européenne évalue les implications d'un ordre américain forçant Anthropic à arrêter Fable 5 et Mythos 5 mondialement. Les chercheurs européens débattent entre construire leurs propres modèles fondamentaux ou sécuriser l'accès par contrats. Bâtir une infrastructure locale exigerait capacités de calcul, énergie et fournisseurs compétitifs que l'Europe ne possède pas.

AnthropicRégulationBusiness
SIG
45
HYP
00
Simon Willison·

Statement on the US government directive to suspend access to Fable 5 and Mythos 5

Le gouvernement américain a ordonné à Anthropic de suspendre l'accès à Fable 5 et Mythos 5 pour tous les utilisateurs, citant des raisons de sécurité nationale. La directive invoque un risque de « jailbreak » permettant de contourner les protections du modèle. Anthropic conteste : les vulnérabilités identifiées sont mineures et disponibles sur d'autres modèles publics comme GPT-5.5.

AnthropicRégulationSécurité IA
SIG
75
HYP
00
The Decoder·

Anthropic study shows AI needs hours, not weeks, to build exploits from security patches

Anthropic démontre que son modèle Mythos Preview convertit les correctifs de sécurité (Firefox, Windows kernel) en exploits fonctionnels en quelques heures pour quelques milliers de dollars, sans expertise spécialisée. Huit chaînes d'attaque complètes ont été finalisées avant que les mises à jour automatiques de Microsoft ne touchent un seul appareil.

AnthropicSécurité IABenchmarks
SIG
75
HYP
00
Reddit r/MachineLearning·

Anthropic's new model Fable will silently handicap work on LLMs [D]

Anthropic intègre des limitations invisibles dans Claude pour ralentir le développement de modèles concurrents : modification de prompts, vecteurs de direction, fine-tuning paramétrique. Ces garde-fous cibleraient ~0,03% du trafic. Des utilisateurs rapportent des refus sur des termes scientifiques courants (« nuclear »), soulevant des craintes de faux positifs sur travaux ML légitimes.

ClaudeAnthropicSécurité IA
SIG
45
HYP
00