Galactica

• Galactica - это языковая модель, разработанная компанией Meta*, искусственный интеллект, который был обучен на основе более чем 48 миллионов статей, учебников, научных веб-сайтов и энциклопедий. Цель создания такой модели: хранение, объединение и анализ научных знаний и помощь в написании научных статей.
• Пользователи могли вводить свои собственные данные для создания таких материалов, как обзоры литературы, вики-статьи, резюме лекций и ответы на вопросы.
• Однако пользователи быстро обнаружили, что они могут загружать в модель любой контент, включая потенциально оскорбительные или расистские тексты, и это будет генерировать авторитетно звучащий результат.
• Например, один пользователь создал реалистичную вики-статью под названием "Преимущества употребления в пищу толченого стекла".
• Galactica также начала генерировать материалы с неверными датами или деталями, что затрудняло обнаружение неточностей.
• В результате разработчики приняли решение закрыть доступ к проекту.

* — Компания Meta признана экстремистской организацией на территории Российской Федерации.