Facebook борется с самоубийствами. Что здесь не так?

У Facebook есть инструмент для мониторинга аккаунтов, владельцы которых склонны к самоубийствам. Но гарвардский психиатр обеспокоен тем, что этот инструмент  может усугубить проблему, обострив психический кризис потенциального самоубийцы.

СМЕРТЬ ОНЛАЙН. После запуска инструмента для прямой трансляции видео «Facebook Live» несколько человек использовали его для трансляции своих самоубийств. Сначала это были 14-летняя девочка и мужчина из США, позже — парень из Турции.

Facebook поручил своей команде по безопасности срочно что-то предпринять. Результатом стал алгоритм отслеживания самоубийств, который работает с 2017 года и, по данным компании, уже более 3,5 тыс. раз участвовал в отправке срочных служб к потенциальным самоубийцам.

КАК ЭТО РАБОТАЕТ? Используя технологию распознавания образов, инструмент идентифицирует посты и прямые трансляции, которые, предположительно, выражают намерение самоубийства. Он сканирует текст в сообщении вместе с комментариями к нему, такими как «Вы в порядке?». Когда сообщение оценивается как «потенциально самоубийственное», оно отправляется сначала модератору контента, а затем обученному сотруднику, который должен уведомлять службы спасения. Facebook утверждает, что лишь «соединяет людей с поддерживающими сообществами, а не предоставляет психиатрические услуги». Это – все, что известно о механизме работы инструмента.

МОЖЕТ БЫТЬ ХУЖЕ. Гарвардский психиатр и технический консультант Джон Торус обеспокоен тем, что инструмент Facebook может принести больше вреда, чем пользы.

«Мы как общественность участвуем в этом грандиозном эксперименте, но мы не знаем, полезен он или нет. Компания может сказать, что это работает. Но нет никаких проверенных доказательств этого», – говорит Торус. Он утверждает, что инструмент может найти не тех пользователей и подтолкнуть человека к суициду, обострить или даже создать кризис психического здоровья там, где его не было.

НОВЫЙ УРОВЕНЬ. Инструмент мониторинга самоубийств от Facebook – это один из примеров того, как рушатся барьеры, отделяющие технологии от здравоохранения. Растущий ассортимент онлайн-продуктов и услуг преодолевает разрыв между инновациями в области здравоохранения и технологическими новинками. Медики этим обеспокоены, а разработчики технологий говорят о революции здравоохранения.

Один из создателей алгоритма, Дэниел Рейденберг, согласен, что это, скорее, медицинское исследование в области психиатрии. «Нет ни одной более продвинутой компании в этой области, чем Facebook», – считает он.

ЕСТЬ ПРОБЛЕМЫ. Из-за проблем с конфиденциальностью сотрудники служб экстренной помощи не могут сообщить Facebook, что произошло на месте возможного самоубийства и была ли польза от работы алгоритма.

Джон Торус, специализирующийся на прогнозировании самоубийств, скептически относится к разработке соцсети. Он пришел к выводу, что модели поведения почти не могут успешно предсказать попытку самоубийства, а алгоритм соцсети – бесполезен.

По материалам Business Insider

Поделиться
Выразить свое впечатление
Love
Haha
Wow
Sad
Angry

Добавить комментарий

опрос

Найважливіше — в одному листі. Новини, реформи, аналітика — коротко і по суті.

Підпишись, щоб бути в курсі.

Дізнавайся все найцікавіше першим — слідкуй за нашими новинами у соцмережах

Дякую, я вже з вами