Автомобілі перетворюються на шпигунів: ШІ-асистенти збирають особисті дані і не завжди зрозуміло, кому їх надсилають

Комфорт від використання ШІ-асистента в автомобілі все частіше стає нічним кошмаром водіїв. Розумні автомобілі отримують доступ до широкого набору особистих даних власників, допускаючи витоки як через недбалість розробників платформ, так і через легковажне ставлення до цієї проблеми самих водіїв.

Джерело зображення: ШІ-генерація ChatGPT/3DNews

Автовиробники, включаючи General Motors, Ford, Rivian, Mercedes-Benz і BMW, розробляють голосових ШІ-асистентів, які можуть не лише керувати окремими функціями автомобіля, але й виконувати роль персональних помічників: планувати маршрути з урахуванням розкладу власника, працювати з календарем, знаходити потрібні місця та допомагати з повсякденними завданнями. Для цього системам розумного автомобіля потрібен доступ до додаткових особистих відомостей — місцезнаходження, контактів, повідомлень, календаря та історії взаємодії з автомобілем.

На цю тему з'являється все більше досліджень, які підкреслюють недооцінену простими людьми небезпеку витоків конфіденційних даних у процесі спілкування з автомобільними ШІ-асистентами та супутніми цьому ризиками.

Зокрема, таке дослідження провели фахівці Північно-Східного університету (Northeastern University) спільно з аналітиками Consumer Reports. Вчені перевірили 21 автомобіль 19 марок і 30 мобільних додатків для управління автомобілями. У ході експериментів автомобілі підключали до спеціально налаштованої точки Wi-Fi, а мережевий трафік реєстрували за допомогою Raspberry Pi.

Для вивчення додатків використовувалися інструменти перехоплення та розшифровки мережевих з'єднань. Виявилося, що 19 з 21 автомобіля зв'язувалися по Wi-Fi як мінімум з одним стороннім сервером, включаючи рекламні та аналітичні платформи. Сім з 30 додатків передавали третім сторонам чутливі дані: VIN автомобіля, електронну пошту, номери телефонів або точні координати. При цьому дослідники не змогли встановити зміст зашифрованих пакетів автомобільного трафіку, але ситуація зрозуміла — дані йшли в невідомому напрямку.

Автовиробники, зі свого боку, починають реагувати на звинувачення у витоках персональних даних. Наприклад, GM стверджує, що її новий ІІ-асистент OnStar виконує розпізнавання мови та обробку типових команд безпосередньо в бортовій системі автомобіля, звертаючись до хмари лише в складних випадках. Компактна модель розпізнавання природної мови класифікує запити менш ніж за 300 мс, а до хмарної інфраструктури GM з мовною моделлю Google Gemini звертаються при неоднозначних або відкритих запитах.

Іншими словами, дані про спілкування водія з ШІ-асистентом не покидають салон автомобіля. Виконання команд залишається під контролем окремого програмного модуля GM, а сама Gemini, для якої автомобільний модуль є надбудовою, не отримує безпосереднього доступу до систем автомобіля. У налаштуваннях OnStar можна дозволяти або забороняти доступ до мікрофону, місцезнаходження, контактів і повідомлень.

Компанія Ford, у свою чергу, 2 листопада оголосила про програму Privacy Promise, пообіцявши не продавати дані про водіння клієнтів брокерам (на чому неодноразово ловили автовиробників, а брокери зливали інформацію страховикам зі всіма наслідками для власників). Водночас відключення ряду функцій ШІ-асистентів може позбавити власника автомобіля таких можливостей, як навігація в реальному часі, виклик допомоги на дорозі та інших зручних речей, до яких швидко звикаєш і вже не хочеш їх втрачати.

І це не лише водіння та підказки в дорозі. Останні реалізації ШІ-асистентів дозволяють їм самостійно планувати поїздки, включаючи сімейні, призначати заходи і навіть переносити їх у разі проблем у дорозі. Для всього цього доводиться ділитися з автомобілем особистим, не завжди усвідомлюючи наслідки витоків.

Директор Ford з питань конфіденційності Крістін Джонс (Kristin Jones) визнала, що нові зобов'язання не змінюють основоположну практику компанії щодо даних. «Ми просто дуже просто розповідаємо людям про нашу практику», — сказала вона. Таким чином, проблема зводиться до традиційного рішення, відомого як «порятунок потопаючих — справа самих потопаючих».

Хочеш дізнатися більше — читай відгуки