Galáctica

• Galactica es un modelo de lenguaje desarrollado por Meta*, una empresa de inteligencia artificial que se ha formado en más de 48 millones de artículos, libros de texto, sitios web científicos y enciclopedias. El propósito de crear dicho modelo es almacenar, combinar y analizar el conocimiento científico y ayudar en la redacción de artículos científicos.
• Los usuarios pueden ingresar sus propios datos para crear materiales como reseñas de literatura, artículos wiki, resúmenes de conferencias y preguntas y respuestas.
• Sin embargo, los usuarios descubrieron rápidamente que podían introducir cualquier contenido en el modelo, incluido texto potencialmente ofensivo o racista, y generaría resultados que parecían autorizados.
• Por ejemplo, un usuario creó un artículo wiki realista llamado "Beneficios de comer vidrio triturado".
• Galactica también comenzó a generar contenido con fechas o detalles incorrectos, lo que dificultaba la detección de imprecisiones.
• Como resultado, los desarrolladores decidieron cerrar el acceso al proyecto.

* — La empresa Meta es reconocida como organización extremista en el territorio de la Federación Rusa.