Штучний інтелект пошуку Google не зміг правильно порахувати літери в слові Google

Керуюча пошуковою машиною модель штучного інтелекту Google виявилася неспроможною розпізнавати та рахувати літери у словах. Так, у слові «Google» вона нарахувала дві літери «P». І це не єдина її помилка подібного роду, пише TechCrunch.

Джерело зображення: techcrunch.com

Громадськість без ентузіазму сприйняла масштабне оновлення пошукового сервісу Google, і це вже не вперше. Раніше Google стала об'єктом насмішок, сатири та пародій, коли «Огляди від ШІ» почали радити користувачам їсти каміння та мазати піцу клеєм — тут і пародіювати нічого не потрібно. Але в самій компанії вважають подібні помилки закономірними. «Підрахунок [літер] у словах — відома проблема для великих мовних моделей, і ми працюємо над вирішенням цієї конкретної проблеми», — заявили в компанії.

Великі мовні моделі, що лежать в основі чат-ботів та інших генераторів тексту, не призначені для аналізу орфографії. Вони можуть писати речення за лічені секунди та розв'язувати математичні задачі, які десятиліттями ставлять учених у глухий кут, але за рівнем правопису навряд чи перевершують дитину в садочку. Іноді у них виникають труднощі з інтерпретацією значень: нещодавно стало відомо, що пошуковий ШІ Google сприймає слово «ігноруй» не як запит, а як команду.

ШІ не сприймає речення як мовні одиниці, що складаються зі слів і літер. Чат-боти переважно будуються на моделях-трансформерах, які розбивають текст на токени — слова, склади та літери — вони не читають як людина, а перетворюють текст на власні числові представлення та враховують контекст, щоб видати логічну відповідь. Йдеться про обмеження на рівні архітектури, і дослідники не дають оптимістичних прогнозів щодо вирішення проблеми з орфографією. Приоритетність задачі, до того ж, невисока: корисність великої мовної моделі не полягає в її здатності писати правильно. Ці недоліки допомагають людині зрозуміти, що ШІ не ідеальний, навіть якщо він іноді здається всезнаючою машиною, рівень якої недосяжний для людини. Тому не можна сліпо довіряти відповідям ШІ.

3dnews

Хочеш дізнатися більше — читай відгуки