Дещо про Алісу і Боба

• Категорія: Колонки

Боти з творчими мовними навичками захопили народну уяву. Вони також відновили тривогу з приводу робокаліпсису

Аліса і Боб, боти Facebook, які здобули ганебну славу через непередбачуваний недолік логіки програмування, є частиною експерименту зі створення машин для переговорів. C R Сасікумар

Інтернет був у вогні від різко обтяжених заголовків, які проголошували, що Facebook змушений було відключити шахраїв-ботів зі штучним інтелектом (AI), які розробили власну мову, якою вони вели нелюдські приватні розмови. Вони читаються як тизери про глобокаліпсис Термінатора, який є найгіршим кошмаром приматів, які використовують інструменти, — його замінить його власне творіння, машина.

Реальність менш драматична, але більш захоплююча. Боти - це автономні агенти, спочатку запрограмовані для виконання завдань по дому на каналах зв'язку або спроби пройти тест Тьюринга. Вони можуть підписати вас, вигнати, якщо ви поводитеся погано, тримати чати відкритими, коли нікого немає вдома, надати інформацію та маскуватися під людей. У системі Internet Relay Chat бот Eggdrop був найулюбленішим.

Онуки таких ботів-двірників вбудовані в сучасні пошукові агенти та месенджери та мають можливості ШІ. Вони спілкуються з користувачами, як людина, відповідають на звичайні запити та пропонують поради. Якщо ваш телефон, здається, знає вашу думку і виявляє потрібну інформацію без запитань, велика частина заслуг має бути віддана ботам, які працюють за лаштунками. Як і люди, боти можуть вчитися на досвіді і призначені для більших речей у реальних ситуаціях.

Аліса і Боб, боти Facebook, які здобули ганебну славу через непередбачуваний недолік логіки програмування, є частиною експерименту зі створення машин для переговорів. Вони просто придумували, як поділитися набором об’єктів, наприклад м’ячами, щоб жодна зі сторін не відчувала себе обдуреною. Торгуючись, Аліса робила спочатку незрозумілі заяви на кшталт: «Мульки мають нуль до мене мені мені мені мені мені мені мені… І пішли страшні заголовки.

Навчання здійснюється за допомогою стимулів, як знають вчителі та батьки. У цьому випадку була визначена система винагород за вправу — краща частка та взаємне задоволення, суть торгу. Але не було стимулу для ботів продовжувати спілкуватися англійською, яка, як відомо, є нелогічною мовою. Тож вони перейшли до спрощеного, більш ефективного арго, схожого на новомову, який не зовсім англійський, але не незрозумілий, як рекламується.

Твердження Аліси, яке було неправильно сприйнято як твердження про незалежність машини, лише вказувало на занепокоєння з приводу того, що вона короткочасна (має нуль), і кожна для мене означала об’єкт, якого вона вимагала. Вона виконувала саме ту роботу, на яку була запрограмована: торгувала так само важко, як продавець на стамбульському Гранд базарі. І якщо вона виявила, що англійська королева стала на заваді, вона була не самотня. Багато рас колишніх колоній вважали, що головна мова заважає спілкуванню в їхніх громадах.

Якщо гіганти Кремнієвої долини інвестують у програми переговорів, мають хвилюватися лише професійні переговорники. Терористи та учасники саміту також повинні побоюватися пенсійного стажу, оскільки в ситуаціях із заручниками та міжнародних угодах вони можуть зіткнутися з незрозумілою, непримиренною машиною, яка набагато розумніша за Deep Blue, суперкомп’ютер IBM, який кинув виклик чемпіону з шахів Гаррі Каспарову в 1996 році.

Прагнення розвивати приватні мови є дуже людською рисою. До того, як біржі були комп’ютеризовані, біржові маклери на торговому залі повідомляли пропозиції за допомогою рукою, незрозумілою для інших. Протягом століть правоохоронні органи були збентежені злодійськими балаганами, штучними мовами засуджених, які є брехнею для їхніх тюремників. Серед англомовних злочинців 20-го століття безглузде слово arkitnay означало: Замовкни, хтось підслуховує. В Індії Вільям Генрі Сліман вивчав Ramaseeana, пісню Thuggee, і опублікував словник у 1836 році. Однією з найменш виконуваних, але найбільш інтригуючих п’єс Тома Стопарда є «Гамлет» Дога, у якій школярі виконують Шекспіра своєю мовою «Догг». Це було чимось схоже на шифр транспозиції. Наприклад, після обіду в Dogg означало привіт.

Не зважайте на провісників, що цікаво в Алісі та Бобу, так це те, що створюючи мову, вони зрадили дуже людську рису, яку вони не були явно запрограмовані для прояву. Шістдесят років тому перші боти були написані, щоб досліджувати саме це питання: чи можна запрограмувати машини, щоб вони вели себе як люди? Чи зможуть вони пройти тест Тьюринга? У статті 1950 року під назвою «Обчислювальна техніка та інтелект» Тьюринг, по суті, припустив, що якщо комунікації машини здаються людьми, то машину слід розглядати як людину.

Першим ботом для обробки природної мови, який вийшов з лабораторії і отримав масову популярність, був Eliza, створений в 1964 році Джозефом Вайзенбаумом з Массачусетського технологічного інституту. Він написав його, щоб продемонструвати, що текстові комунікації людини і машини не можуть піднятися до рівня людської розмови. Навпаки, Еліза викликала очікування громадськості, що вона пройде тест Тьюринга. Через тридцять років ще більші надії вселила Джулія, створена засновником Lycos Майклом Молдіном, щоб змагатися за премію Лебнера, випробування Святого Грааля Тьюринга. Але згодом розмови Джулії переросли у випадкові міркування про властивості собак і кішок (ви можете поспілкуватися з сучасною її версією на scratch.mit.edu/projects/2208608).

Тепер боти, які володіють творчими мовними навичками, захопили народну уяву, знову розпаливши тривоги щодо робокаліпсис. Але розробка в лабораторії штучного інтелекту Google насправді більш захоплююча. У вересні 2016 року Google запустила свою систему нейронного машинного перекладу, яка застосовує глибоке вивчення мови. Через два місяці вони розширили рамки: якби машина навчилася перекладати, скажімо, між хінді та німецькою, а також між хінді та англійською, чи могла б вона перекладати між англійською та німецькою без мостової мови гінді? Це могло б припустити, що нейронна мережа дізналася щось фундаментальне про те, як розум зв’язує поняття та граматику для створення мов. Маленька жовта, схожа на п’явку рибка Вавилон, живий універсальний перекладач, який придумав Дуглас Адамс наприкінці сімдесятих, тепер ширяє біля вашого вуха.

Звичайно, оскільки для ШІ немає довгострокового прогнозу, слід приділити належну увагу застереженням людей, які мають знати краще, як-от Ілон Маск і Стівен Гокінг. Повинно бути регулювання, незважаючи на протести прихильників свободи інновацій, як-от Марк Цукерберг. І має виникнути загальний консенсус, домовитись про лінії, які не можна перетинати, як у випадку втручання в геном людини. Але не можна заперечувати, що експерименти в Facebook і Google просувають початкову мету ШІ, яка полягала в моделюванні та розумінні аспектів людського розуму. Жахливі медіа-історії, які вони приваблюють, викликають швидкоплинну сенсацію. На наступний день вони придатні для загортання риби.