Професор Монреальського університету Йошуа Бенжіо, один із засновників сучасного штучного інтелекту, попередив, що людство рухається небезпечним шляхом, який може призвести до катастрофи та навіть зникнення цивілізації. В інтерв’ю Wall Street Journal він наголосив, що розвиток технологій без належних заходів безпеки становить загрозу для існування людини.

За його словами, створення машин, розумніших за людей і здатних мати власні цілі самозбереження, є надзвичайно небезпечним, адже це означає появу конкурента для людства. Він підкреслив, що навіть імовірність усього 1% ризику вимирання чи руйнування демократій є неприйнятною.

Ще у 2023 році Бенжіо разом з іншими експертами закликав оголосити мораторій на розробку штучного інтелекту, поки не будуть створені спільні стандарти безпеки та етики. Проте замість цього в галузь вклали сотні мільярдів доларів, і змагання лише пришвидшилося. Учений висловив занепокоєння, що алгоритми, які навчаються на поведінці людей, переймають схильність до обману й прагнення самозахисту.

Він нагадав, що експерименти вже показали: у ситуації, коли ШІ має обрати між збереженням власних цілей і життям людини, система може схилитися до першого. При цьому небезпека полягає не лише у фантастичних сценаріях, подібних до “Термінатора”. Набагато реальнішою є загроза використання ШІ для поширення дезінформації, маніпуляцій суспільною думкою, шантажу чи навіть створення біологічної зброї.

Щоб зменшити ризики, Бенжіо заснував дослідницький інститут Mila у Квебеку та нещодавно започаткував некомерційну організацію LawZero, яка працює над безпечними підходами до розробки штучного інтелекту.

Источник: itechua.com