banner banner banner banner

Малюська хоче використовувати штучний інтелект у кримінальній юстиції: Наскільки це можливо

Міністр юстиції Денис Малюська сяйнув ідеєю - автоматизувати оцінку ризиків обвинувачених, ув'язнених та засуджених з допомогою штучного інтелекту, а також використовувати нові технології для процесуальних рішень: під час обрання запобіжного заходу або санкцій, умовно-дострокового звільнення тощо.

Малюська хоче використовувати штучний інтелект у кримінальній юстиції: Наскільки це можливо
112.ua

Катерина Чернявська

Журналістка, кореспондентка

Міністр юстиції Денис Малюська сяйнув ідеєю - автоматизувати оцінку ризиків обвинувачених, ув'язнених та засуджених з допомогою штучного інтелекту, а також використовувати нові технології для процесуальних рішень: під час обрання запобіжного заходу або санкцій, умовно-дострокового звільнення тощо.

"Потрібна професійна порада: чи є сенс купувати чинний софт за кордоном (наприклад, compas у Штатах)? Чи варто замовляти розробку софту з нуля? Є вітчизняні компанії, які можуть розробити аналог не за всі гроші всесвіту? Наскільки розумію, перевагою іноземного софту була б можливість використання вже чинних наборів даних іноземних юрисдикцій (поки не сформуємо свої)", - написав Малюська на своїй сторінці в Facebook.

А потім задумався - чи варто взагалі залучати штучний інтелект в ухваленні подібних рішень - чи, може, просто обмежитися системою балів.

Скріншот

Що таке штучний інтелект

Штучний інтелект (ШІ) - це галузь комп'ютерних наук, а точніше - науки про дані (Data Science). Джон МакКарті, який вважається батьком ШІ, ще в 1950-х роках дав просте визначення цьому поняттю - "це наука та інженерія для виробництва розумних машин". Концептуально - це можливість машин сприймати та відповідати на інформацію з навколишнього середовища незалежно і виконувати завдання, які зазвичай вимагають людського інтелекту й ухвалення рішень, але без участі людей.

ШІ широко використовується в наш час - від безпілотних автомобілів до біржових прогнозів, а також у медицині і багатьох інших галузях. 

Основний принцип роботи - вивчення наявної інформації з масивів даних. Спеціально написані програми "проганяють" дані, виділяють певні закономірності і на їхній основі роблять висновки, які потім можуть використовуватися людьми для ухвалення рішень. 

112.ua

Використання та ефективність

Відповідно до дослідження, проведеним за замовленням американської Національної довідкової служби з кримінального правосуддя, використання штучного інтелекту допоможе не тільки в затриманні злочинців (наприклад, на підставі систем розпізнавання облич на фото і відео), але і в попередженні злочинів. Зазвичай ця робота лягає на плечі поліції і служб пробації. 

Новини за темою

Група дослідників проаналізувала понад 340 тисяч ордерів, щоб обчислити ризики повторного порушення, в який проміжок часу це може статися і яка ймовірність того, що злочинець сховається від правоохоронців (якщо він не перебуває під наглядом). Вони сформували алгоритми, які мають допомогти правоохоронним органам у виконанні ордерів та оптимізації ресурсів. 

Алгоритми також можуть виявляти злочини проти літніх людей і допомагати припиняти їх. А також - вираховувати потенційних жертв насильницьких злочинів на підставі асоціацій і поведінки. 

Але важливо зазначити, що це дослідження щодо можливостей ШІ, на практиці все ж є відмінності.

COMPAS 

Зараз у деяких Штатах (зокрема в штатах Нью-Йорк, штат Вісконсин, Каліфорнія і Флорида) використовують програму під назвою COMPAS. ПЗ було створено приватною компанією Northpointe (зараз Equivant) у 1998 році і з роками змінювалося зі збільшенням даних у галузі кримінології та вдосконаленням практики виправних установ. Багато в чому зміни в цій галузі зумовлені новими досягненнями в оцінюванні ризиків, пояснюють творці ПЗ. 

Програмне забезпечення використовує алгоритми в трьох основних напрямках -  для оцінки ризику загального рецидивізму, насильницького рецидивізму або можливості сховатися до суду.

Шкала ризику досудового звільнення оцінює ризик того, що людина може не з'явитися на суд та/або вчинити нові злочини під час перебування на свободі. Згідно з дослідженням, яке стало основою для створення шкали, "поточні звинувачення, очікувальні звинувачення, історія попередніх арештів, досудові попередні порушення, постійне місце проживання, статус зайнятості, громадські зв'язки та зловживання психоактивними речовинами" є найбільш значущими показниками, які впливають на оцінки ризику перед судом.

Шкала загального рецидивізму призначена для прогнозування нових злочинів після звільнення і після оцінки COMPAS. У шкалі використовується кримінальна історія особи та її спільників, ставлення до наркотиків та ознаки підліткової злочинності. 

Шкала насильницького рецидивізму - показник насильницького рецидивізму призначено для прогнозування насильницьких злочинів після звільнення. У шкалі використовуються дані або показники, які включають "історію насильства, історію недотримання встановлених заходів, професійні та освітні проблеми, вік при першому затриманні особи і вік при першому арешті". Оцінка ризику для насильницького рецидиву розраховується наступним чином:

Показник ризику насильницького рецидивізму = (вік ∗ -w) + (вік при першому арешті ∗ -w) + (історія насильства * w) + (професійна освіта * w) + (історія непокори * w), де w - це вага, розмір якої визначається силою відношення предмета до рецидиву образи особистості, яку спостерігали у дослідженні".

Однак незважаючи на пояснення творців про алгоритми, COMPAS було розкритиковано насамперед через непрозорість. Оскільки софт було створено приватною компанією, точна робота його алгоритмів не розкривається і є комерційною таємницею. До того ж більш прості моделі, на зразок лінійної регресії, показували результати не гірші за COMPAS.

Ще один шквал критики звалився на це ПЗ після дослідження про доцільність використання. Для цього залучили 400 випадкових добровольців через краудфайндинговий сайт. Кожен з них бачив короткі описи обвинувачених, виділяючи сім фрагментів інформації. Виходячи з цього, вони мали вгадати, чи вчинить обвинувачений нові злочини протягом двох років. 

Новини за темою

У середньому вони дали 63% правильних відповідей. Точність відповідей зросла до 67%, коли їхні відповіді було об'єднано. Тим часом як COMPAS має точність 65%. Це трохи краще, ніж окремі віщуни, і не краще, ніж натовп. Недосвідчені люди, які відповідають на онлайн-опитування, попередньо ознайомившись із невеликою кількістю інформації, впоралися не гірше за складну програму.

Недоліки й українська реальність

Найочевидніший недолік - рішення базуються тільки на відомих даних. Якщо злочинець раніше не траплявся правоохоронним органам і не був засуджений, його "профайл" буде чистий, отже, програма вважатиме його меншим ризиком. Хоча сукупність інших факторів може наштовхнути обвинувачення і суддів на інші міркування. Припустимо, є справи, де фігурував підозрюваний/обвинувачений, але вони з якихось причин розсипалися (недостатня доказова база, процесуальні порушення тощо). 

Унаслідок нелінійності та неоднорідності інших даних неможливо побудувати ефективні алгоритми. Уявімо, є злочинець, якого шукали кілька років і в якого на рахунку інші злочини, скоєні. Але за ці кілька років його життя дуже змінилося - він став релігійною людиною, завів сім'ю, зайнявся благодійністю і став проповідувати. Звичайно, це не гарантія, але ймовірність втечі або повторного правопорушення може сильно знизитися. Інший приклад - раніше поважний і добрий вчитель хімії, багатодітний батько і совісний платник податків став на слизьку стежку і почав виробництво метамфетаміну з усіма кримінальними наслідками такої діяльності. Що скаже машина? Таких додаткових умов може бути безліч. Програма має ефективність лише на основі загальних патернів, що викидає будь-які, які не відповідають їм, елементи пазла за борт. 

У такому випадку найбільш імовірна опція - дерево рішень, яке, наприклад, широко використовується в кредитуванні. Кожен елемент має свою вагу, сукупність цих елементів підказує ймовірність того, що кредит буде виплачено. Або в нашому випадку - який ризик вчинення нового злочину і втечі. І тут знову повертаємося до попереднього пункту - недолік і нелінійність інформації, що породжує "заангажованість" машини.

Приклад дерева рішень З відкритих джерел

Але найбільше сумнівів викликає навіть не це. Українські судова, пенітенціарна і правоохоронна системи (як утім і всі інші) функціонують на старій добрій корупції. Ці механізми закласти в алгоритми не вийде, а відмовлятися від "відкатів" навряд чи хтось захоче.

Катерина Чернявська 

відео по темі

Новини за темою

Новини за темою

Новини партнерів

Loading...

Віджет партнерів

d="M296.296,512H200.36V256h-64v-88.225l64-0.029l-0.104-51.976C200.256,43.794,219.773,0,304.556,0h70.588v88.242h-44.115 c-33.016,0-34.604,12.328-34.604,35.342l-0.131,44.162h79.346l-9.354,88.225L296.36,256L296.296,512z"/>