Google може заблокувати наші облікові записи, якщо виявить тривожні фотографії дітей

Турбуючись про здоров’я дитини, батько сфотографував ушкодження в паху за допомогою смартфона Android. Як повідомляє The New York Times, чоловік помітив набряк в області геніталій неповнолітньої і на прохання медсестри надіслав фотографії проблеми за допомогою відеоконсультації. На їх основі лікар призначив антибіотики, які вилікували інфекцію.

Цей вид діяльності викликав підозри щодо штучного інтелекту компанії. Через два дні після того, як були зроблені фотографії, чоловікові повідомили, що його акаунти заблоковано через «шкідливий контент», що є серйозним порушенням політики Google і може бути незаконним. Компанія позначила фотографії як матеріали сексуального насильства над дітьми (CSAM). Окрім заборони облікових записів, було подано звіт до Національного центру зниклих безвісти та експлуатованих дітей та розпочато поліцейське розслідування, підкреслюючи, наскільки складно відрізнити потенційне насильство від невинної фотографії, коли вона приєднується до цифрової бібліотеки користувача, на персональному пристрої чи в хмарі.

Google бореться з можливими зловживаннями

Google повідомила The Times, що сканує особисті фотографії користувачів лише після виконання ними «підтверджувальних» дій, які можуть включати резервне копіювання фотографій у Google Photos. Лише у 2021 році компанія повідомила NCMEC про аж 621 583 випадки, а вони надали правоохоронним органам інформацію про потенційних 4260 жертв. У списку – син чоловіка.

Марк, оскільки його так звали, втратив доступ до своєї електронної пошти, контактів, фотографій і навіть номера телефону через те, що він використовував мобільний сервіс Google Fi. Він намагався оскаржити рішення технологічного гіганта, але той відхилив його прохання. Справу розкрив лише слідчий з департаменту поліції Сан-Франциско, який вирішив, що злочину не було скоєно.

Прес-секретар Google Кріста Малдун пояснює, що компанія використовує комбінацію технології зіставлення хештегів і штучного інтелекту, щоб ідентифікувати та видаляти вміст сексуального насильства з платформ. Вони також перевіряються групою експертів з безпеки дітей, які консультуються з педіатрами, щоб виявити випадки, коли користувачі могли звертатися за медичною допомогою.

Безперечно, безпека дітей дуже важлива. Однак, як видно, практика сканування фотографій користувачів досить сильно порушує їх конфіденційність. Це було не вперше, і Google не єдина компанія, яка робить це. Як виявилося, вжиті кроки не завжди видатні - у 2012 році, наприклад, це призвело до арешту чоловіка, який був сексуальним злочинцем, використовуючи Gmail для надсилання фотографій молодої дівчини.

Нагадуємо, москалі знову погрожують місту Нікополь підірвати АЕС на іншому боці Дніпра.