Calibrating Overconfidence Without Sacrificing Confidence: Probe-Conditioned Head Intervention for LLMs

En 3 lignesPCHI, une méthode d'inférence, détecte les réponses fausses-mais-confiantes via une sonde gelée et rescale conditionnellement les sorties des têtes d'attention. Sur Qwen3-4B et Gemma3-4B, elle convertit 82,2% des fausses réponses confiantes en « non » et réduit l'ECE de 21,9% à 9,2% tout en préservant 94,9% des bonnes réponses.

Résumé généré par Claude — vérifié par l'humain