ШІ та карма: хто відповідає, коли вирішує машина?

ШІ та карма: хто відповідає, коли вирішує машина?

У 2016 році система ШІ COMPAS допомогла суддям у 13 штатах США приймати рішення про умовно-дострокове звільнення. Журналісти-розслідувачі ProPublica виявили: система вдвічі частіше неправильно класифікувала темношкірих ув'язнених як «високий ризик рецидиву» порівняно з білими. Алгоритм працював. Алгоритм дискримінував. І ніхто не сидів у в'язниці за це — ні розробники, ні компанія, ні судді, які застосовували систему.

Це не ізольований випадок. Це ілюстрація фундаментального питання нашого часу: хто несе відповідальність, коли рішення приймає машина?

Три рівні відповідальності в ланцюжку ШІ

Відповідальність у світі ШІ розподілена — і саме це робить її складною. Європейський закон про ШІ (EU AI Act, набирає чинності у 2024–2026 роках) вперше спробував систематизувати ці рівні.

Рівень 1: розробник

Розробники створюють алгоритми, навчають моделі, приймають архітектурні рішення. Саме вони вирішують, на яких даних навчається система, які метрики оптимізуються, які обмеження закладаються. Тімніт Гебру, колишній спільний керівник команди з етики ШІ в Google, показала: більшість систем NLP (обробка мови) навчаються на даних, які відображають історичні упередження суспільства. Система не створює упередженість — вона успадковує її від нас.

Рівень 2: компанія і регулятор

Компанії, які впроваджують ШІ-системи, несуть відповідальність за те, як вони використовуються. Якщо банк застосовує алгоритм скорингу, який дискримінує певні групи — це не «проблема алгоритму». Це проблема банку. EU AI Act вводить систему класифікації за ризиками: системи з високим ризиком (біометрія, кредитний скоринг, управління критичною інфраструктурою) підлягають обов'язковому аудиту.

Рівень 3: користувач

Користувач — останньою ланкою ланцюжка — також несе частину відповідальності. Суддя, який спирається на рекомендацію COMPAS, не перекладає на систему моральну відповідальність. Це не відрізняється від ситуації з будь-яким іншим порадником: його порада — ваш вибір.

Алгоритмічна упередженість: як ШІ успадковує наші помилки

Тімніт Гебру та Джой Буоламвіні з MIT Media Lab продемонстрували у 2018 році: комерційні системи розпізнавання облич мають точність 99% для білих чоловіків — і лише 65% для темношкірих жінок. Це не випадковість і не злий умисел. Це пряме наслідок даних: більшість навчальних датасетів складаються переважно з фотографій білих чоловіків.

Алгоритмічна упередженість — це дзеркало. ШІ не упереджений сам по собі. Він відображає упередженість даних, на яких навчений, — а дані відображають упередженість людських рішень, які їх створили. Хибне коло:

• Історичні дані містять дискримінацію (наприклад, чорношкірі кандидати отримували менше кредитів)
• Модель навчається передбачати «успіх» на основі цих даних
• Модель відтворює дискримінацію як «нейтральне» рішення
• Рішення легітимізується авторитетом алгоритму

Справа про безпілотники та хірургічних роботів

Аварія безпілотника Uber (2018). Безпілотний автомобіль компанії Uber збив пішохода в Арізоні. Загинула жінка. Розслідування показало: система «бачила» об'єкт, але класифікувала його як «невідомий об'єкт» і вирішила не реагувати. Оператор транспортного засобу дивився в телефон. Питання — хто винен, коли алгоритм «вирішує» неправильно — залишається юридично дискусійним.

Хірургічні роботи. Системи Da Vinci застосовуються в тисячах операцій щодня. Вони знижують помилки хірурга — але не виключають їх. Коли робот помиляється — хто відповідає? Хірург? Компанія-виробник? Лікарня? Відповідь залежить від конкретного випадку.

Карма творця: етика розробника

Нік Бостром у «Superintelligence» поставив питання радикально: розробники AGI (штучного загального інтелекту) несуть відповідальність, порівнянну з розробниками ядерної зброї. Це сильне твердження — але воно вказує на реальну проблему: перші особи технологічної революції рідко замислюються про наслідки.

На індивідуальному рівні карма розробника виглядає так: кожна технологічна система — це втілення цінностей своїх творців. Коли ви оптимізуєте метрику залученості (engagement) — ви втілюєте цінність «утримати користувача будь-якою ціною». Коли ви закладаєте різноманітність у навчальні дані — ви втілюєте цінність справедливості. Про цифрову карму — про те, як наші дії в мережі відображають наші цінності — докладніше в статті про цифрову карму.

Ваші цифрові рішення

Навіть якщо ви не розробник ШІ, ви щодня берете участь у цій системі. Ви використовуєте алгоритмічні рекомендації, приймаєте рішення на основі автоматичних оцінок, довіряєте або не довіряєте системам. Кожна ваша взаємодія з ШІ-системою — це голосування за певний тип технологічного розвитку. Пройдіть тест на karm.top у категоріях «daily» та «honesty». Про роль анонімності — в статті про анонімність та мораль. Про роль фейків — в статті про фейки та дезінформацію.

Часті запитання

ШІ може бути повністю «об'єктивним»? Ні. Будь-яка ШІ-система відображає цінності і припущення своїх творців — у виборі даних, метрик, обмежень. «Об'єктивність» алгоритму — це часто маскування упередженості, яку складніше оскаржити, бо вона виражена математично.

Кого притягати до відповідальності за помилки ШІ? EU AI Act пропонує систему: за системи високого ризику відповідають компанії, які їх впроваджують. За збиток користувачам — застосовується стандартне законодавство про продуктову відповідальність.

Як рядовий користувач може вплинути на етику ШІ? Через вибори споживача (які платформи використовувати), через вимоги до прозорості та через громадянський активізм (підтримку регулювання ШІ).