Цифрові арбітри, штучно створене товариство та віртуальні мешканці: як штучний інтелект трансформує цивілізацію.
Людство створило штучний інтелект, і тепер стикається з викликом зрозуміти, як жити поруч з ним. Відтепер ми не можемо вважати себе "першими серед рівних" — з'явився штучний суперник, який має здатність до навчання, аналізу та прийняття рішень, а іноді навіть перевершує нас у розумових здібностях. Як знайти спосіб співіснування з ним і як він вже впливає на майбутнє людства — про це розповів доктор юридичних наук, керівник Наукової лабораторії імерсивних технологій і права НАН України Олексій Костенко в інтерв’ю для ZN.UA.
Це друга частина інтерв'ю. У першій ми з'ясували, як "влаштований" штучний інтелект та чому він лише вдає, що нас розуміє.
Пане Олексію, як ви гадаєте, чи може еволюція штучного інтелекту стати викликом для людського розуму? Згідно з прогнозами експертів, він має потенціал поступово витіснити людей з професій, що вимагають інтелектуальних зусиль.
-- Такі футуристичні страшилки з'являються час від часу. З розвитком штучного інтелекту деякі професії справді відійдуть у минуле, натомість виникнуть нові. Як зникли професії, пов'язані з гаджетами минулої епохи: майстри з ремонту дискових телефонів чи телевізорів марки "Огонек", сервісні служби холодильників "Минск".
За даними Всесвітнього економічного форуму, до 2030 року автоматизація поглине близько 92 мільйонів робочих місць. Але з'явиться приблизно 170 мільйонів нових -- переважно у сферах, пов'язаних зі штучним інтелектом, великими даними й програмуванням. І якщо ви відкриєте сторінку з вакансіями OpenAI, Microsoft чи будь-якої іншої корпорації, яка працює з ШІ, -- ви побачите там дуже цікаві назви нових професій.
Тож інтелектуальна праця не зникне. Навпаки, ті, хто здатен генерувати нові ідеї, гіпотези, задачі, соціальні конструкції, перейдуть до класу привілейованих. Якщо ти можеш створювати те, що машина не здатна згенерувати, -- ти будеш "білою кісткою" цивілізації. Як на золотих копальнях шукають золото, так у майбутньому держави шукатимуть людей, здатних народжувати нові ідеї. І підтримуватимуть їх матеріально й морально. Бо інформацію треба не тільки споживати, а й генерувати. Це головне.
Але ти не станеш конструктором майбутнього, якщо не вчитимешся постійно. Якщо зупинишся, якщо перестанеш оновлювати базу знань, яку носиш на плечах. І якщо не навчишся конструювати ці знання -- за допомогою тих самих великих мовних моделей.
Таким чином, у змаганні "технології проти людини" людина залишається переможцем?
Отже, на мою думку, цифрове суспільство навряд чи залишиться виключно антропоцентричним. Вже зараз ми спостерігаємо появу цифрових суб’єктів — аватарів, електронних особистостей та роботів-гуманоїдів, які потенційно можуть мати інтелект, що в сотні разів перевищує людський, якщо ними керуватиме штучний інтелект вищого рівня — AGI (Artificial General Intelligence). Це, так би мовити, "суперGPT", який здатний не лише відповідати на запитання, а й самостійно генерувати ідеї, приймати рішення та діяти: укладати угоди, призначати лікування, розробляти нові технології.
Відео створено за запитом Олексія Костенка.
Сьогодні активно обговорюється можливість часткового надання прав людини цифровим суб'єктам. Наприклад, у рамках Євросоюзу розглядається концепція надання AGI-агентам юридичного статусу, що дозволяло б їм представляти інтереси корпорацій: укладати контракти, вести переговори, управляти активами та навіть брати участь у судових розглядах. Це фактично є спробою перетворити штучний інтелект не просто на інструмент, а на самостійного учасника правових відносин. Вже сьогодні ми можемо спостерігати певні ініціативи в цьому напрямку.
Так, наприклад, у жовтні 2025 року уряд Казахстану зробив крок, якого поки що не наважилися зробити ані в США, ані в країнах Європейського Союзу: до складу ради директорів державного інвестиційного фонду "Самрук-Казина" офіційно увійшов штучний інтелект. Його ім'я -- SKAI, або Samruk-Kazyna Artificial Intelligence. Його повноваження -- повноцінне право голосу при ухваленні рішень. Фонд управляє активами на понад 81 мільярд доларів. І тепер один із голосів, що визначають їхнє майбутнє, належить не людині.
SKAI працює на основі суперкомп'ютера Al Farabium, розробленого з використанням архітектури NVIDIA. Цей комп'ютер ізольований від зовнішніх мереж і здійснює навчання виключно на внутрішніх даних фонду, а також детально аналізує всі рішення, прийняті радою протягом останніх 15 років. Його функція виходить за рамки простої аналітики; він також здатний виявляти помилки, прогнозувати можливі сценарії розвитку подій і пропонувати інноваційні стратегії.
У певних державах активно працюють "віртуальні судді". Яким чином це реалізується?
У Бразилії функціонує система, де штучний інтелект відповідає за підготовку справ до розгляду: він виконує попередній аналіз, шукає відповідні прецеденти та створює проект рішення. Після цього остаточне рішення затверджується суддею. Завдяки такій технології один суддя може розглянути більше 30 тисяч адміністративних справ за рік. У Китаї існує не тільки "цифровий суд", а й "цифрова прокуратура", яка, однак, займається лише тими справами, що не пов'язані з заподіянням шкоди людям.
Кажучи про судові справи, варто відзначити, що вже є численні приклади, коли люди звертаються до суду проти штучного інтелекту. Наприклад, у США батьки підлітка подали позов проти компанії, що розробила ChatGPT, а також її генерального директора. Вони стверджують, що їхній син вчинив самогубство, слідуючи рекомендаціям цієї мовної моделі. Батьки вважають, що розробники не вжили необхідних заходів для забезпечення безпеки і не створили механізмів для втручання в ситуаціях, коли ШІ надає небезпечні для життя поради.
Це дійсно складні питання. На кого слід покладати відповідальність — лише на розробника мовної моделі, чи також на того, хто неналежно сформулював запит для штучного інтелекту? Хто врешті-решт відповідає за злочини, вчинені цифровими суб'єктами: користувач, платформа, розробник, інфраструктурний постачальник чи держава?
Безліч питань, пов'язаних із штучним інтелектом, залишаються нерегульованими. У правовій сфері, як і в інших аспектах суспільного життя, настав час кардинальних змін — старі методи більше не працюють. Штучний інтелект, цифрові технології (Метасвіт) та електронна юрисдикція трансформують саму суть соціальної взаємодії. Право майбутнього вимагає не лише косметичних змін або "оновлення норм", а створення абсолютно нової логіки правових дій.
Поки нова логіка лише починає формуватися, ми намагаємося регулювати цифрову реальність за допомогою традиційних інструментів, там, де ще можемо "дотягнутися" до застарілої юриспруденції. Наприклад, бельгійський суд розглянув випадок, коли один користувач незаконно заволодів акаунтом іншого та викрав його аватар. Суд ухвалив наступне рішення: якщо ви інвестували в свого аватара (купуючи йому віртуальні предмети або підвищуючи його рівень за гроші), то викрадення аватара вважається викраденням ваших інвестицій. Однак це рішення не є остаточним вирішенням проблеми, а швидше тимчасовим заходом на тлі великих викликів, з якими ми стикаємося.
-- Не врегульовано законодавством і захист персональних даних користувачів моделями на основі ШІ. Ми не знаємо, в які масиви даних потрапить інформація, яку ми їм даємо у своїх запитах.
Отже, це питання стосується не тільки користувачів великих мовних моделей, а й усіх власників гаджетів, що мають доступ до інтернету. Подумайте тільки: у світі налічується приблизно 60-70 мільярдів пристроїв, що входять до категорії інтернету речей — комп'ютери, смартфони, сенсори, відеокамери та багато інших. Всі ці пристрої постійно обмінюються даними. На жаль, більшість з них не мають належного захисту від витоку інформації — часто єдиним бар'єром є простий пароль на роутері, а заводські налаштування залишаються без змін.
З інформації, яку збирають гаджети кожної особи, штучний інтелект може створити її віртуальну репліку. Ця репліка здатна на 85-90% відтворювати думки та реакції свого оригіналу — реальної людини. Використовуючи мільйони таких віртуальних копій, великі мовні моделі (LLM) формують цифрову модель суспільства, або симулякр. Ця модель дозволяє проводити випробування та робити прогнози щодо виборів, ринкових тенденцій, а також реакцій споживачів на різноманітні продукти і послуги.
Відео створено за запитом Олексія Костенка.
Чи є в Україні симулякр-хаб, залишається під питанням. Проте, закордонні аналоги безсумнівно існують. Важливо лише з’ясувати, чи не відбувається вже моделювання України в якійсь іноземній системі координат.
-- Якщо дані перетворюються на зброю, то чи не йдеться вже про нові війни, де воюють не люди, а їхні цифрові двійники?
Цифрові конфлікти незабаром стануть дійсністю. Той, хто першим освоїть мистецтво боротьби в цьому новому просторі, здобуде важливу перевагу.
Не випадково Путін висловився у 2021 році на міжнародному заході Artificial Intelligence Journey: "Держава повинна взяти на себе відповідальність за зберігання критично важливої інформації. Йдеться не лише про забезпечення кібербезпеки для окремої людини, а й для її віртуального відображення — аватара в рамках формованих Метавсесвітів". У країні-агресорці вже проводили підготовку до конфліктів у кіберпросторах, де аватар ще не має правового захисту, на відміну від фізичної особи. Це відкриває значні можливості для інформаційних війн у цифровій сфері.
У традиційних кібернападах основна мета полягає в атаці на сервери чи інформаційні системи. Проте в умовах цифрових війн акцент зміщується на вплив на людську психологію. І тут не йдеться лише про прості фейки в соціальних мережах. Конфлікти у віртуальному просторі матимуть унікальні цілі, методи та визначення "успіху".
Один із можливих сценаріїв ведення бойових дій виглядає так: противник ініціює "операцію перевороту реальності". Через заражені цифрові платформи формується альтернативна версія подій — наприклад, у віртуальному Парижі аватари спостерігають, як "уряд зазнав краху", "армія капітулювала", а "нові закони" оголошені іншою владою. Тисячі людей, які живуть у світі віртуальної та доповненої реальності, сприймають це як істину — реагують на події та поширюють їх далі. Такі конфлікти не завдають шкоди інфраструктурі, але підривають довіру. Інформаційна ілюзія перетворюється на політичні наслідки. Це — війна сприйняття, де основною зброєю стає симуляція. Вона здатна змінювати поведінкові моделі, емоційні стани та навіть самоідентифікацію. Коли змінюється сам контекст, ти втрачаєш впевненість у тому, що бачиш, чуєш і відчуваєш.
Ще один вид "інформаційних" бойових дій -- захоплення й перепрограмування для дезінформаційних операцій аватара ключової особи. Або руйнація віртуальної економіки -- у цифровому світі вже є свої активи, токени, віртуальні ринки. І коли обвалюється курс, знецінюються активи, блокується обіг, це паралізує системи, в яких перебувають тисячі, а то й мільйони людей.
Усе це змінює саме поняття безпеки -- від захисту територій ми переходимо до захисту свідомості. І якщо такі війни неминучі, людству доведеться створити нові правила гри. Нам потрібен сучасний міжнародний цифровий кодекс, що поєднує технічні, правові та етичні підходи до віртуальних конфліктів.
Нобелівський лауреат Джеффрі Гінтон, якого вважають "батьком" штучного інтелекту, під час своєї "бенкетної" промови після отримання нагороди висловив занепокоєння щодо можливих загроз для людства, які можуть виникнути внаслідок розвитку ШІ. Гінтон наголосив, що ці ризики потребують уваги з боку урядів і міжнародних організацій. Він підкреслив, що компанії, які займаються створенням цифрових технологій і орієнтуються на швидкий прибуток, навряд чи поставлять безпеку людей на перше місце.
Як я вже зазначав, необхідно розробити міжнародний цифровий кодекс. Проте, процес створення міжнародного законодавства зазвичай займає чимало часу. Тому доцільно розпочати з локального рівня — кожна країна може ініціювати формування власної законодавчої основи для регулювання штучного інтелекту. Першим кроком у цьому напрямку має стати розробка стратегії.
Я провів аналіз 137 стратегій розвитку штучного інтелекту в 137 країнах по всьому світу. Чи знаєте ви, що Україна входить до числа 11 країн, які досі не мають офіційно затвердженої стратегії в цій сфері? Проект стратегії був розроблений у 2020 році, але досі не отримав затвердження. Стратегія – це не просто декларативне висловлення: "ми станемо лідерами у цій галузі". Для України стратегія повинна стати всебічним аналізом технологічних, наукових, освітніх, державних, фінансових, військових, медичних та інших секторів, враховуючи їх реальні можливості та потенційні потреби в цифровій трансформації. Це не просто гасло; стратегія – це чіткий план дій, адекватне забезпечення ресурсами, міжнародна співпраця і науковий потенціал. Без залучення НАН, НАПрНУ та інших відповідних академій і наукових установ стратегія залишиться лише маніфестом, а не життєздатним планом для України.
Також нашій країні потрібен закон, який регулює застосування ШІ.
Яка ваша думка про штучний інтелект? Ви вважаєте, що його вплив буде позитивним чи негативним?
-- Оптиміст. У будь-якій технології є позитивні сторони й негативні. Завдяки ШІ однозначно буде більше позитивних проривів у різних сферах. Але людство має піклуватися про запобіжники -- кожна нова технологічна розробка має оцінюватися з точки зору загрози нам.
Щодо співіснування людства з ШІ я теж оптиміст. Людство навчилося жити разом із технологіями -- автомобілі, літаки, мобільний зв'язок та інтернет, космос і дистанційна освіта. Технологію ШІ ми також освоїмо, і нам всім треба буде навчитися жити та творити з допомогою та разом із нею.
