АссистентыЗдоровьеСлужбы поддержки клиентов чтения

Новый медицинский чат-бот Amazon: помощник или угроза приватности?

Amazon запустил Health AI для пользователей Prime в США. Сервис обещает помощь с диагностикой и лечением, но вызывает серьезные вопросы о безопасности данных.

Новый медицинский чат-бот Amazon: помощник или угроза приватности?

Amazon запустил в США новый сервис Health AI - чат-бот, который поможет пользователям разобраться с медицинскими проблемами, поставить диагноз и найти лечение. Доступный всем подписчикам Amazon Prime, он может обсуждать проблемы со здоровьем, рекомендовать решения, предлагать медицинские товары и связывать с врачами.

Сразу скажу: я верю, что ИИ имеет место в здравоохранении. Когда медперсонал борется с устаревшей инфраструктурой и огромным потоком пациентов, а люди страдают от длинных очередей и (по крайней мере в США) постоянно растущих цен, ИИ может помочь решить эти проблемы.

Однако внедрение таких технологий требует тщательного подхода, и я не уверен, что Amazon - та компания, которой стоит доверять в этом вопросе. Хотя мы все так или иначе доверяем Amazon свои данные (Amazon Web Services - крупнейший провайдер облачных хранилищ в мире), я бы дважды подумал, прежде чем передавать чат-боту конфиденциальную информацию о своем здоровье.

Amazon описывает Health AI как "персонализированного ассистента, который знает вас и вашу медицинскую историю". С вашего разрешения Amazon может получить доступ к вашим медицинским записям, чтобы чат-бот мог их обсудить с вами. Сервис также рекомендует продукты из Amazon Pharmacy и связывает с медицинскими специалистами (конкретно из группы Amazon One Medical).

Amazon утверждает, что безопасность на высоте: Health AI соответствует требованиям HIPAA (Закон о переносимости и подотчетности медицинского страхования США). Это означает, что вся защищенная медицинская информация обрабатывается так же, как в кабинете врача, со всеми требованиями конфиденциальности.

Потенциальные риски

Нетрудно увидеть конфликт интересов: чат-бот определит проблему и продаст вам решение с собственного сайта Amazon или свяжет с собственными медицинскими специалистами компании. Пожаловались боту на проблемы со сном? Ждите предложений безрецептурных средств для улучшения сна.

Amazon заявляет, что "защищенная медицинская информация не используется в основном магазине Amazon для маркетинга товаров", и "мы используем защищенную медицинскую информацию только в целях, разрешенных HIPAA". Однако компания ничего не говорит об использовании медицинской информации для маркетинговых целей в отношении Amazon Pharmacy.

Хотя Amazon будет записывать данные для обучения будущих моделей ИИ, компания утверждает, что анонимизирует эти данные. Однако это само по себе не гарантирует приватность. Meta, например, смогла связать аккаунты Facebook с пользователями приложения для отслеживания менструального цикла Flo даже после удаления имен и другой идентифицирующей информации.

В случае утечки данных или если Amazon использует эту информацию способом, не соответствующим HIPAA, я сомневаюсь, что какое-либо наказание может быть эффективно применено. Amazon просто слишком велика, чтобы ее можно было оштрафовать или дисциплинировать.

Желание технологических гигантов помочь построить здоровое общество всегда уступает их желанию получить прибыль из ваших личных данных. Пока Amazon не делает достаточно, чтобы убедить меня, что новый сервис Health AI безопасен, конфиденциален и действует в моих интересах.

Штат Нью-Йорк, похоже, разделяет эти опасения - он находится в процессе блокировки чат-ботов с ИИ от предоставления юридических или медицинских консультаций. И сейчас трудно спорить с такой политикой.

Смотрите также

Каталог приложений Telegram Mini Apps

340+ проверенных мини-приложений: нейросети, утилиты, игры. Открываются прямо в мессенджере — без установки.

Открыть →

Поддержите Ailibri

Если наш каталог оказался полезным, вы можете оставить небольшой донат. Это поможет нам развивать проект.

♥ Поддержать

Будьте в курсе новых нейросетей — подпишитесь на наш Telegram-канал

Ежедневные обзоры свежих AI-инструментов, лайфхаки и инструкции прямо в вашем мессенджере.

Подписаться
Бесплатно · Нейросеть

Генерация изображений прямо в Telegram

3 бесплатные генерации в день через нейросеть nano banana — просто подпишись на канал @n_seti

Быстро Точно Качественно
Попробовать @gen_neurosila_bot

Нейросети и ИИ-инструменты

Все теги →
github212 text-to-text136 text-to-image111 каталог29 image-to-image23 инструмент20 курсы19 создание чат-ботов15 браузер15 удалить фон14 text-to-sound12 text-to-video11 замена лица11 gpt-49 desktop-приложение9 ии-музыка9 аниме9 удалить объект с фото8 google8 создание сайтов7
AILibri – главная страница
Ctrl / ⌘+K