- Galactica - это языковая модель, разработанная компанией Meta*, искусственный интеллект, который был обучен на основе более чем 48 миллионов статей, учебников, научных веб-сайтов и энциклопедий. Цель создания такой модели: хранение, объединение и анализ научных знаний и помощь в написании научных статей.
- Пользователи могли вводить свои собственные данные для создания таких материалов, как обзоры литературы, вики-статьи, резюме лекций и ответы на вопросы.
- Однако пользователи быстро обнаружили, что они могут загружать в модель любой контент, включая потенциально оскорбительные или расистские тексты, и это будет генерировать авторитетно звучащий результат.
- Например, один пользователь создал реалистичную вики-статью под названием "Преимущества употребления в пищу толченого стекла".
- Galactica также начала генерировать материалы с неверными датами или деталями, что затрудняло обнаружение неточностей.
- В результате разработчики приняли решение закрыть доступ к проекту.
* - Компания Meta признана экстремистской организацией на территории Российской Федерации.
Блог