Головний проповідник Google і «батько Інтернету» Вінт Серф має повідомлення для керівників компаній, які хочуть поспішати з угодами щодо штучного інтелекту в чаті: «Не робіть цього».

Серф благав учасників конференції в Маунтін-В’ю в понеділок не поспішати інвестувати в розмовний ШІ лише тому, що «це гаряча тема». Попередження надійшло на тлі сплеску популярності навколо ChatGPT .

«Тут є етичне питання, яке, я сподіваюся, деякі з вас розглянуть», — сказав Серф на конференції в понеділок. «Усі говорять про ChatGPT або його версію від Google, і ми знаємо, що це не завжди працює так, як хотілося б», — сказав він, маючи на увазі розмовний штучний інтелект Google Bard, який був анонсований минулого  тижня .

Його попередження лунає від великих технологічних компаній, таких як Google, Метаі Microsoftборотися з тим, як залишатися конкурентоспроможним у розмовному просторі ШІ, одночасно швидко вдосконалюючи технологію, яка все ще часто припускається помилок.

Голова правління Alphabet Джон Хеннессі раніше того ж дня заявив , що системи ще далеко від широкого використання, і що у них є багато проблем із неточністю та «токсичністю», які потрібно вирішити, перш ніж навіть тестувати на публіці.

З 2005 року Серф є віце-президентом і «головним інтернет-проповідником» Google. Він відомий як один із «батьків Інтернету», оскільки він був співавтором розробки деяких архітектур, які використовувалися для побудови основи Інтернету.

Серф застеріг від спокуси інвестувати лише тому, що ця технологія «справді крута, навіть якщо вона не завжди працює належним чином».

«Якщо ви думаєте: «Чоловіче, я можу продати це інвесторам, тому що це гаряча тема, і всі будуть кидати в мене гроші», не робіть цього», — сказав Серф, що викликало сміх у натовпу. «Будьте вдумливі. були праві, що ми не завжди можемо передбачити, що станеться з цими технологіями, і, чесно кажучи, більшість проблем у людях — ось чому ми, люди, не змінилися за останні 400 років, не кажучи вже про останні 4000».

«Вони намагатимуться робити те, що принесе їм користь, а не вам», — продовжив Серф, мабуть, маючи на увазі загальну людську жадібність. «Тож ми повинні пам’ятати про це й уважно ставитися до того, як ми використовуємо ці технології».

Серф сказав, що намагався попросити одну із систем прикріпити емодзі в кінці кожного речення. Він цього не зробив, і коли він сказав системі, що помітив, вона вибачилася, але не змінила своєї поведінки. «Ми дуже далекі від усвідомлення чи самосвідомості», — сказав він про чат-ботів.

За його словами, існує розрив між тим, що він каже, що буде робити, і тим, що він робить. «Це проблема… ви не можете відрізнити красномовно виражену» відповідь від точної.

Серф навів приклад, коли він попросив чат-бота надати його біографію. Він сказав, що бот представив свою відповідь як фактичну, хоча вона містила неточності.

«Щодо інженерної сторони, я вважаю, що такі інженери, як я, повинні бути відповідальними за спроби знайти спосіб приборкати деякі з цих технологій, щоб вони з меншою ймовірністю завдавали шкоди. І, звісно, ​​залежно від застосування, не дуже хороша художня історія — це одне. Дати пораду комусь… може мати медичні наслідки. Дуже важливо з’ясувати, як звести до мінімуму потенціал найгіршого випадку».