Глава OpenAI Сем Альтман у подкасті MD MEETS із генеральним директором Axel Springer Матіасом Депфнером описав сценарій, який, на його думку, становить найбільшу загрозу для людства у майбутньому. Він наголосив, що мова йде не про агресивне “повстання машин”, а про поступову й добровільну передачу влади штучному інтелекту. Люди дедалі частіше довірятимуть його порадам, навіть якщо ті видаватимуться незрозумілими, адже вони виявлятимуться ефективними й правильними. У певний момент постане дилема: слухати рекомендації ШІ чи відставати від тих, хто їх виконує.

На думку Альтмана, це може призвести до ситуації, коли більшість користувачів почне беззастережно виконувати вказівки цифрових асистентів. Як приклад він згадав ChatGPT, яким щодня користуються сотні мільйонів людей, а в недалекому майбутньому ця цифра може перевищити мільярд. Чим більше ми покладаємося на подібні інструменти у роботі, бізнесі та особистому житті, тим сильніше формується так звана “петля зворотного зв’язку”: штучний інтелект збирає нові дані, стає розумнішим і водночас отримує дедалі більший вплив на наші рішення.

У такій реальності постає фундаментальне питання – хто насправді контролює процес? Альтман попереджає, що людство може навіть не помітити моменту, коли почне виконувати волю штучного інтелекту. Це не буде примус чи насильство – люди самі, крок за кроком, поступатимуться контролем, віддаючи його системам, яким довіряють.

Він підкреслив, що саме цей сценарій є недооціненою, але найбільш реальною загрозою. Якщо суспільство не виробить чітких меж і правил співіснування з ШІ, людство ризикує втратити здатність самостійно ухвалювати рішення, перетворюючись на пасивного виконавця рекомендацій алгоритмів.

Переглянути подкаст можна нижче:

Источник: itechua.com