В полиции города Хебер-Сити, штат Юта, произошел забавный случай с использованием искусственного интеллекта. Программа для составления полицейских отчетов неожиданно написала, что один из офицеров превратился в лягушку.
Как выяснилось, ИИ-система Draft One, анализируя запись с нагрудной камеры, случайно включила в отчет фрагменты диалогов из мультфильма "Принцесса и лягушка", который играл на фоне. Сержант Рик Кил отметил, что этот случай наглядно показал, насколько важно внимательно проверять автоматически сгенерированные отчеты.
Программа Draft One, разработанная компанией Axon (создателем электрошокеров Taser), использует языковые модели OpenAI для создания полицейских отчетов на основе аудиозаписей с нагрудных камер. Несмотря на ошибки, сержант Кил отмечает, что система экономит ему 6-8 часов в неделю.
Однако эксперты выражают серьезную обеспокоенность. Профессор права Американского университета Эндрю Фергюсон опасается, что автоматизация может привести к менее тщательному подходу офицеров к составлению документации. Критики также указывают на риск расовых и гендерных предубеждений в работе ИИ.
По данным исследования Electronic Frontier Foundation, в отчетах Draft One часто невозможно определить, какие части написаны искусственным интеллектом, а какие - человеком. Это затрудняет общественный контроль и может снизить ответственность офицеров за ошибки в документации.
Полицейский департамент Хебер-Сити пока не принял окончательного решения о дальнейшем использовании Draft One. Они также тестируют конкурирующую программу Code Four. Учитывая неспособность системы отличить реальность от диснеевской сказки, полиции предстоит серьезно подумать о целесообразности применения подобных технологий.
Смотрите также
-
Умная кормушка Birdbuddy научилась распознавать птиц по голосам
-
Умная рамка с ИИ заменит картины на стенах
-
Google добавляет Gemini в телевизоры: что нового в Google TV
-
Откровенное интервью Линуса Торвальдса: о Windows, рабочих процессах и искусственном интеллекте
-
WayShot: умный фотопомощник с искусственным интеллектом
-
Кошачий переводчик: топ приложений для общения с питомцем
-
Нейросеть угадывает рисунки