Anthropic dice que estos temas son demasiado peligrosos para que su modelo Fable 5 hable sobre ellos.

La empresa Anthropic ha lanzado su modelo de inteligencia artificial Fable 5, que supera a sus modelos anteriores en capacidad general. Sin embargo, el lanzamiento de este modelo viene con salvaguardas diseñadas para evitar que responda a consultas sobre temas como la ciberseguridad, la biología y la química, ya que la empresa considera que podría ser utilizado por actores maliciosos para causar daño. En su lugar, el modelo Fable 5 redirige las consultas sobre estos temas a un modelo anterior, el Claude Opus 4.8, y advierte al usuario cuando esto ocurre.

Anthropic ha ajustado estas salvaguardas para ser más estrictas de lo ideal, lo que puede resultar en algunos falsos positivos y ocasionalmente frustrar a los usuarios regulares. Sin embargo, la empresa considera que esto es necesario para evitar situaciones en las que el modelo podría proporcionar asistencia a actores maliciosos. Es importante destacar que la ciberseguridad es un tema cada vez más relevante en la sociedad actual, y medidas como estas pueden ayudar a prevenir el uso indebido de la inteligencia artificial. La noticia es importante porque resalta la necesidad de considerar las implicaciones éticas del desarrollo y el uso de la inteligencia artificial, y cómo las empresas están trabajando para mitigar los riesgos asociados con su uso.

Leer artículo original en Ars Technica AI

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.