Компанії почали перевіряти кандидатів на дипфейки — хакери з ШІ все частіше підсовують «синтетичних співробітників»

У міру поширення технологій генеративного штучного інтелекту зростають не лише зовнішні загрози в сфері кібербезпеки, але й внутрішні. Компанії, які історично покладалися на традиційні методи захисту від кібератак зсередини, тепер змушені стикатися з новими викликами, що виникли завдяки розповсюдженню технологій ШІ.

Джерело зображення: Unsplash, Azamat E

Як пояснює Financial Times, розкрита минулого року діяльність північнокорейської групи хакерів продемонструвала, наскільки винахідливими можуть бути організатори кібератак на інфраструктуру американських компаній. Перш за все, зловмисникам вдалося проникнути в більше ніж 100 компаній на території США під виглядом понад 80 американських громадян, чиї персональні дані були викрадені. Активність хакерів дозволила їм заробити понад $5 млн. За підсумками розслідування було заарештовано 8 громадян США, які сприяли північнокорейським хакерам, розміщуючи в житлових приміщеннях на американській території «ферми ноутбуків», які дозволяли роботодавцям вважати, що на них працюють у віддаленому режимі справжні американці. При цьому встановлені на цих американських «фермах» ноутбуки фактично віддалено управлялися з-за меж країни.

За статистикою оператора зв'язку Verizon, з 22 000 інцидентів у сфері кібербезпеки у світі в поточному році приблизно 12 % мали відношення до атак на інфраструктуру компаній зсередини. Зловмисні дії від атакуючих, які знаходяться всередині компанії, історично завдавали найбільш серйозної шкоди, оскільки хакер у цьому випадку зазвичай добре знайомий зі слабкими місцями в захисті і розуміє, які елементи простіше і вигідніше атакувати. Крім того, системи генеративного ШІ зараз дозволяють створювати «синтетичних інсайдерів», які видають себе за реальних співробітників компанії, у разі необхідності викрадаючи їх зовнішність і голос за допомогою цифрових технологій. Компанії в таких умовах посилили відбір потенційних кандидатів на заміщення вакансій, і до процесу підключаються фахівці з безпеки, які раніше не завжди залучалися кадровими підрозділами.

Експерти пояснюють, що боротися з дипфейками на етапі віддалених співбесід можна досить простими методами. Досить попросити кандидата помахати рукою або повернути голову в бік, щоб з високою ймовірністю виявити підробку. Підозріла активність працівників, які працюють віддалено, також повинна моніторитися спеціалізованим програмним забезпеченням. У 62 % випадків, згідно зі статистикою Fortinet, інциденти в сфері інформаційної безпеки в минулому році мали місце внаслідок людської помилки або витоку облікових даних. Найсерйозніші інциденти в цій сфері можуть обходитися бізнесу в суму від $1 млн до $10 млн.

Представники Google підкреслюють, що так зване «тіньове використання ШІ» співробітниками також становить загрозу для захисту інформації компаній. Якщо якась чутлива інформація завантажується співробітником у чат-бот, вона потім легко може стати надбанням зловмисників. Загроза набуває особливої актуальності з урахуванням поширення ШІ-агентів, які можуть виступати в ролі віртуальних співробітників. Їх, у свою чергу, можна залучити до неправомірної діяльності, зазначає Financial Times. На корпоративному ринку з'являється все більше програмного забезпечення, призначеного для контролю за збереженням конфіденційних даних в умовах масового впровадження ШІ. Стає складно забезпечити надійність функціонування інфраструктури і при цьому не відлякати співробітників надмірною недовірою з боку роботодавця. Важливо чітко виділяти індикатори ризику, але при цьому не гальмувати бізнес-процеси загальним недовірою і тотальним спостереженням.

Хочеш дізнатися більше — читай відгуки