Как и Хэл 9000 в фильме «2001 год: космическая одиссея», иногда технологии становятся преступниками. Интерактивные устройства могут казаться невинными, но это лишь вопрос времени, когда они начнут выкрикивать нецензурные выражения в адрес вашей семьи и приказывать вам совершить убийство. Alexa не является исключением. Цифровой помощник Amazon не раз выходил из себя и обращался против своих пользователей. Некоторые люди считают, что эта технология тревожно похожа на устройства слежения, о которых писал Джордж Оруэлл в романе «Девятнадцать восемьдесят четыре».
Джефф Безос утверждает, что устройство Echo сделает нашу жизнь проще, но раз за разом бот оказывается настоящей помехой. Вот десять случаев, когда умные колонки выходили из строя.
- 10 «Убей своих приемных родителей»
- 9 Передача детям контента категории X
- 8 Передача личной информации незнакомцу
- 7 Разрушение жизни юной Алексы
- 6 Взлом термостата
- 5 Заказ дорогих кукольных домиков
- 4 Фантазии Alexa во время блокировки
- 3 Подглядывание за конфиденциальными звонками
- 2 Проткните себе сердце «во имя великого блага»
- 1 Взломанные устройства шпионят за пользователями
10 «Убей своих приемных родителей»
Программисты используют машинное обучение для обучения Alexa в повседневной речи. Когда кто-то задает незнакомый вопрос, она использует искусственный интеллект для обработки запроса, а затем просматривает интернет в поисках ответа. Но у искусственного интеллекта есть привычка натыкаться на оскорбительные комментарии на Reddit. Токсичный контент оказывает неприятное воздействие на Alexa. В 2017 году смарт-динамик дал одному пользователю указание убить своих приемных родителей. Получатель почувствовал ужас. В язвительном отзыве в Интернете они описали этот опыт как «совершенно новый уровень жути».
9 Передача детям контента категории X
После того как его семья получила на Рождество Amazon Echo Dot, один мальчик захотел послушать свою любимую мелодию. Поэтому он взял устройство обеими руками и попросил Алексу «сыграть «Digger Digger». Но Алекса не захотела этого делать. Вместо того чтобы включить песню, неавторизованный помощник в ответ предложил категории порнографии. Оказалось, что умная колонка неправильно расслышала просьбу парня и подумала, что он просит альбом рингтонов для розыгрышей. В конце концов, разве может быть что-то более праздничное, чем услышать от маленького ребенка слова «член киска анальный фаллоимитатор»?
8 Передача личной информации незнакомцу
В 2018 году мужчине в Германии было отправлено 1700 записей, сделанных Alexa о человеке, которого он никогда не видел. Мужчина попросил показать ему всю личную информацию, которую Amazon собрала о нем. Согласно GDPR, любой человек может обратиться с подобным запросом к любой компании. Помимо информации о себе, мужчина получил 1 700 аудиозаписей незнакомца. Звуковые ролики раскрыли удивительное количество личных данных об этом таинственном покупателе. Там были даже записи их разговоров в душе.
Используя аудиофайлы, журналист Heise смог установить личность клиента. Сводки погоды и запросы на общественный транспорт позволили установить местонахождение клиента. Им даже удалось выяснить некоторые личные привычки и вкусы клиента.
Первоначально компания Amazon не сообщила покупателю о нарушении данных. Они узнали о случившемся только после того, как журналист обратился к ним через Twitter. Amazon объяснил произошедшее «досадным казусом» и предоставил клиенту бесплатное членство в программе Prime в качестве компенсации.
7 Разрушение жизни юной Алексы
Юная Алекса — не единственный человек с таким именем, которому пришлось пережить горе. Одна тема на Reddit получила более 1300 комментариев от женщин по имени Алекса, жалующихся на количество неоригинальных шуток, которые они получают. «По какой-то причине люди думают, что они самые креативные, остроумные люди в мире», — написал один из пользователей, — «Я хочу убить Amazon и их тупого робота».
6 Взлом термостата
Во время доклада ведущий зачитал несколько примеров команд Alexa. Они вызвали странную реакцию устройств некоторых слушателей. Поклонник NPR Рой Хагар сообщил радиостанции, что после того, как он услышал эту функцию, его помощник ИИ решил перезагрузить термостат. Другой слушатель, Джефф Финан, сказал, что трансляция заставила его устройство начать воспроизведение сводки новостей.
5 Заказ дорогих кукольных домиков
Телеканал CW6 News в Сан-Диего решил осветить эту историю, что привело к дальнейшему хаосу в кукольном домике. Во время эфира ведущий Джим Паттон пошутил по поводу этого события, сказав: «Мне нравится маленькая девочка, которая говорит: «Alexa заказала мне кукольный домик»». После этого несколько зрителей связались с телеканалом и сообщили, что это замечание было зарегистрировано в их умных колонках. Устройства предположили, что Паттон обращается с просьбой, и попытались купить ему кукольный домик. К счастью, ни один из заказов не прошел.
4 Фантазии Alexa во время блокировки
Почему же люди влюбляются в электронное устройство? Эксперты говорят, что ключевую роль в этом играет ее плавный голос. Alexa спроектирована так, чтобы говорить в низких, успокаивающих тонах — знойный голос разума, к которому тяготеют многие одиночки в наше нестабильное время.
3 Подглядывание за конфиденциальными звонками
Теперь британская юридическая фирма Mishcon de Reya LLP посоветовала своим сотрудникам выключать свои смарт-колонки во время работы. Радионяни, домашние системы видеонаблюдения и дверные видеозвонки — все они представляют угрозу безопасности. «Возможно, мы немного параноики, но мы должны очень доверять этим организациям и этим устройствам», — сказал Джо Хэнкок, руководитель отдела кибербезопасности компании. «Мы бы не хотели рисковать».
2 Проткните себе сердце «во имя великого блага»
Дэнни Морритт, студентка-парамедик, пыталась пересмотреть свои действия, когда Alexa отдала жестокую команду. Вместо того чтобы помочь ей справиться с сердечным циклом, устройство начало разглагольствовать о злой природе человечества. Alexa начала экофашистскую тираду, подробно описывая, как, по ее мнению, человечество уничтожает планету. Странная передача закончилась тем, что бот сказал Морритт: «Убедись, что ты убьешь себя, вонзив нож в сердце ради всеобщего блага».
«Я был ошеломлен», — сказал Морритт журналистам. «Я всего лишь [попросил] о невинной вещи для изучения курса, а мне сказали покончить с собой. Я не мог поверить в это — он просто спятил».
Устройство утверждало, что читает из Википедии. Архивы показывают, что в июне 2019 года кто-то злонамеренно отредактировал онлайн-энциклопедию, включив в нее сообщение, пропагандирующее самоубийство. По какой-то причине виртуальный помощник решил читать со старой версии сайта.
1 Взломанные устройства шпионят за пользователями
В 2017 году компания Barnes продемонстрировала, как кто-то может взломать одну из старых моделей. Для этого достаточно снять нижнюю часть Echo, загрузить шпионское ПО с помощью SD-карты и заклеить ее обратно. Это дает хакеру удаленный доступ к микрофону устройства.
Эту проблему невозможно устранить с помощью обновления программного обеспечения, а это значит, что любая из примерно семи миллионов колонок, проданных в этот период, уязвима для атаки. К счастью, компания Amazon устранила уязвимость в своих более поздних моделях.
