Полицейский отчет с помощью ИИ: курьезный случай превращения офицера в лягушку
В полицейском участке штата Юта искусственный интеллект создал забавный отчет, в котором офицер якобы превратился в лягушку. Разбираемся, что пошло не так с автоматизацией полицейской документации.
В полиции города Хебер-Сити, штат Юта, произошел забавный случай с использованием искусственного интеллекта. Программа для составления полицейских отчетов неожиданно написала, что один из офицеров превратился в лягушку.
Как выяснилось, ИИ-система Draft One, анализируя запись с нагрудной камеры, случайно включила в отчет фрагменты диалогов из мультфильма "Принцесса и лягушка", который играл на фоне. Сержант Рик Кил отметил, что этот случай наглядно показал, насколько важно внимательно проверять автоматически сгенерированные отчеты.
Программа Draft One, разработанная компанией Axon (создателем электрошокеров Taser), использует языковые модели OpenAI для создания полицейских отчетов на основе аудиозаписей с нагрудных камер. Несмотря на ошибки, сержант Кил отмечает, что система экономит ему 6-8 часов в неделю.
Однако эксперты выражают серьезную обеспокоенность. Профессор права Американского университета Эндрю Фергюсон опасается, что автоматизация может привести к менее тщательному подходу офицеров к составлению документации. Критики также указывают на риск расовых и гендерных предубеждений в работе ИИ.
По данным исследования Electronic Frontier Foundation, в отчетах Draft One часто невозможно определить, какие части написаны искусственным интеллектом, а какие - человеком. Это затрудняет общественный контроль и может снизить ответственность офицеров за ошибки в документации.
Полицейский департамент Хебер-Сити пока не принял окончательного решения о дальнейшем использовании Draft One. Они также тестируют конкурирующую программу Code Four. Учитывая неспособность системы отличить реальность от диснеевской сказки, полиции предстоит серьезно подумать о целесообразности применения подобных технологий.
Смотрите также
-
Аватары·Omoggle - ИИ-платформа для оценки лиц захватила Twitch
-
Новости·Жорж Мельес предупреждал о восстании роботов ещё в 1897
-
Музыка·Фейковые песни, боты и $8 млн роялти
-
Мобильные·Tinder запустил ИИ, который хочет покопаться в вашей галерее ради лучших совпадений
-
Эксперименты·Собака научилась кодить игры с помощью Claude AI (и это не шутка)
-
Создание видео·Китайская нейросеть создает новые серии Pokemon и Dragon Ball
-
Развлечения·Дроны с камерами на Олимпиаде: крутые кадры и раздражающий звук
-
Создание видео·Meta создаст отдельное приложение для генерации AI-видео Vibes
-
Игры·Phozzle: новое приложение превращает старые фото из iPhone в пазлы!