Полицейский отчет с помощью ИИ: курьезный случай превращения офицера в лягушку

·  чтения ·  · 
Полицейский отчет с помощью ИИ: курьезный случай превращения офицера в лягушку

В полиции города Хебер-Сити, штат Юта, произошел забавный случай с использованием искусственного интеллекта. Программа для составления полицейских отчетов неожиданно написала, что один из офицеров превратился в лягушку.

Как выяснилось, ИИ-система Draft One, анализируя запись с нагрудной камеры, случайно включила в отчет фрагменты диалогов из мультфильма "Принцесса и лягушка", который играл на фоне. Сержант Рик Кил отметил, что этот случай наглядно показал, насколько важно внимательно проверять автоматически сгенерированные отчеты.

Программа Draft One, разработанная компанией Axon (создателем электрошокеров Taser), использует языковые модели OpenAI для создания полицейских отчетов на основе аудиозаписей с нагрудных камер. Несмотря на ошибки, сержант Кил отмечает, что система экономит ему 6-8 часов в неделю.

Однако эксперты выражают серьезную обеспокоенность. Профессор права Американского университета Эндрю Фергюсон опасается, что автоматизация может привести к менее тщательному подходу офицеров к составлению документации. Критики также указывают на риск расовых и гендерных предубеждений в работе ИИ.

По данным исследования Electronic Frontier Foundation, в отчетах Draft One часто невозможно определить, какие части написаны искусственным интеллектом, а какие - человеком. Это затрудняет общественный контроль и может снизить ответственность офицеров за ошибки в документации.

Полицейский департамент Хебер-Сити пока не принял окончательного решения о дальнейшем использовании Draft One. Они также тестируют конкурирующую программу Code Four. Учитывая неспособность системы отличить реальность от диснеевской сказки, полиции предстоит серьезно подумать о целесообразности применения подобных технологий.

Смотрите также

Логотип Telegram

Будьте в курсе новых нейросетей — подпишитесь на наш Telegram-канал!

Ежедневные обзоры свежих AI-инструментов, лайфхаки и инструкции прямо в вашем мессенджере.

AILibri – главная страница
Ctrl / ⌘+K