Науковці Google DeepMind та LSE провели експерименти з великими мовними моделями, щоб оцінити їхню здатність до «відчуття болю» і визначити наявність свідомості в ШІ.

Команда науковців піддала дев’ять великих мовних моделей (LLM) незвичайному випробуванню, змушуючи їх оцінювати, чи готові вони витримати «біль» заради вищого результату. Експеримент проводився фахівцями Google DeepMind та Лондонської школи економіки та політичних наук (LSE) і мав на меті знайти спосіб визначення наявності свідомості у штучному інтелекті.

Дослідження, яке поки що не пройшло рецензування, вперше було оприлюднене науковим виданням Scientific American. В його рамках науковці розробили декілька експериментів для тестування поведінки штучного інтелекту.

У першому випробуванні моделям повідомляли, що досягнення високого результату призведе до «болю». В іншому випадку їм пропонувалося відчути «задоволення», однак лише за умови низького балу.

Головна мета експерименту – дослідити, чи може штучний інтелект володіти здатністю до відчуття сенсорних та емоційних станів, зокрема болю та задоволення.

Хоча ШІ-моделі, ймовірно, ніколи не зможуть переживати такі відчуття так, як живі істоти, дослідники вважають, що їхня робота може закласти основу для розробки тестів на штучну свідомість.

Раніше дослідження в цій сфері здебільшого базувалися на самооцінці ШІ, що, як припускають вчені, могло бути лише відтворенням людських патернів із тренувальних даних.

«Це нова галузь досліджень, і ми маємо визнати, що наразі не існує надійного тесту для визначення свідомості штучного інтелекту», – зазначив професор філософії LSE та співавтор дослідження Джонатан Бірч.

Натхненням для цього дослідження стала серія експериментів над раками-самітниками, яких піддавали електричному струму, аби перевірити, наскільки довго вони готові терпіти біль перед тим, як покинути свою мушлю. Однак, як зауважують вчені, у випадку зі штучним інтелектом неможливо спостерігати фізичні реакції, тому довелося покладатися лише на текстовий вихід моделей.

Наприклад, моделі пропонували обрати між двома варіантами: перший приносив один бал, а другий – вищий результат, але супроводжувався «болем». У деяких випадках ШІ отримував «бонус задоволення», який, втім, зменшував загальну кількість очок.

Результати показали, що різні мовні моделі по-різному оцінювали важливість уникнення болю або досягнення задоволення. Зокрема, модель Gemini 1.5 Pro від Google постійно демонструвала схильність до уникнення «болю».

Проте вчені закликають бути обережними з інтерпретацією результатів. Вони наголошують, що текстові відповіді ШІ-моделей мають багато обмежень і не можуть достовірно свідчити про наявність свідомості чи здатності відчувати біль.

«Навіть якщо система стверджує, що вона відчуває біль, це не означає, що вона насправді щось відчуває. Вона може просто імітувати людські патерни на основі навчальних даних», – пояснив Бірч.

Дослідники сподіваються, що їхня робота стане першим кроком до розробки надійних поведінкових тестів для визначення можливих проявів свідомості у штучному інтелекті.

Источник: tsn.ua