Anthropic actualizó las salvaguardas de biología de Claude Fable 5 para reducir los falsos positivos que provocaban la derivación de consultas hacia un modelo menos capaz. En sus pruebas, la compañía registró una disminución cercana al 85% de estos fallbacks relacionados con biología.
Admin
Fable 5 permitirá más consultas legítimas
El ajuste permitirá que Fable 5 responda a una mayor variedad de tareas relacionadas con biología. Anthropic menciona entre los casos beneficiados la interpretación de resultados de laboratorio, la comprensión de síntomas, el aprendizaje de biología y determinadas tareas clínicas realizadas por profesionales de la salud.
Las restricciones se mantienen para solicitudes que la compañía considera de doble uso. Las consultas relacionadas con virología, toxicología y diseño molecular continúan siendo derivadas a Opus 5, por lo que Fable 5 todavía no está disponible para investigación biológica profesional y desarrollo de medicamentos en esas áreas.
Admin
Anthropic reajusta sus clasificadores de seguridad
Para reducir los falsos positivos, Anthropic reescribió las reglas utilizadas por el clasificador, desarrolló nuevos datos de entrenamiento y volvió a entrenar el sistema. Posteriormente, verificó que siguiera detectando contenido dañino y consultas de investigación biológica de doble uso, mientras permitía una mayor cantidad de solicitudes consideradas benignas.
Admin
La compañía reconoce que continuarán existiendo falsos positivos y mantendrá bloqueadas las consultas profesionales de biología y desarrollo de medicamentos que presenten riesgos de doble uso. Como efecto adicional del cambio, estima que el total de fallbacks disminuirá alrededor de 67% en Claude.ai, 55% en Cowork, 17% en Claude Code y 7% en Claude Platform.
