banner banner banner

Як Facebook, Twitter і Youtube борються зі злоякісним контентом

Як Facebook, Twitter і Youtube борються зі злоякісним контентом
kyiveuromarathon

The Wall Street Journal

Американська ділова газета

Оригінал на сайті The Wall Street Journal

Хто ж знав, що ситуація може стати настільки важкою? За останні два тижні Facebook виявив нові фейкові сторінки, якими можуть користуватися агенти Росії. Президент США звинуватив Twitter в умисному скороченні видимості консервативних політиків. Apple, Facebook, Youtube і Pinterest майже одночасно видалили облікові записи правого радикала Алекса Джонса і його медіаімперії Infowars. Це викликало дискусії на тему того, чи можуть технологічні гіганти встановлювати межі свободи слова.

Новини за темою

Втім, всі ці події стосуються рішень, зроблених людьми, але ще не виконаних алгоритмами. Сьогодні існує багато інструментів на основі штучного інтелекту, з допомогою яких можна виявити дезінформацію, ботів, фальшиві облікові записи, злоякісні кампанії впливу, мета яких спотворити те, що ми чуємо і бачимо. Проблема лише в тому, що досі немає консенсусу щодо того, як їх використовувати.

Технологічні гіганти вже говорять про те, як деякі з цих інструментів варто застосовувати. Facebook використовує штучний інтелект для виявлення злоякісного контенту: від мови ненависті до риторики, яка може свідчити про ризик здійснення самогубства.

Twitter застосовує цю технологію для виявлення тих, хто схильний до домагань. А Youtube з допомогою штучного інтелекту бореться з поширенням відео терористів на своїй платформі. Незважаючи на всі ці зусилля, дослідники і політики думають над тим, як підвищити відповідальність людей, які керують цими компаніями. У кращому випадку технологічні гіганти підуть на співпрацю в розробці прозорих інструментів.

Новини за темою

Проблеми поширення мови ворожнечі, закликів до насильства, державної пропаганди і дезінформації насправді пов'язані між собою. Тому для їх вирішення можна використовувати одні і ті ж інструменти. Взяти для прикладу зв'язок між сторінками терористів і кампаніями з поширення дезінформації. І одне, й інше можна виявити одними і тими ж методами, запевняє експерт Державного університету Арізони Хамірдреза Алварі.

Зазвичай спроби виявити сторінки зловісних авторів у соціальних мережах спираються на лексичні фільтри. Але терористи і пропагандисти навчилися їх обминати. Алварі розробив алгоритм, який шукає певні сторінки, контент яких поширюється на платформі нетипово швидко. Оскільки це є метою як пропагандистів, так і терористів, його метод може допомогти очистити соцмережі від небажаного контенту. Але людям все одно потрібно ухвалювати остаточне рішення, щоб уникнути помилок.

Переклад ИноСМИ

Редакція може не погоджуватися з думкою автора. Якщо ви хочете написати в рубрику "Думка", ознайомтеся з правилами публікацій і пишіть на [email protected]

відео по темі

Новини за темою

Новини за темою

Новини партнерів

Loading...

Віджет партнерів

d="M296.296,512H200.36V256h-64v-88.225l64-0.029l-0.104-51.976C200.256,43.794,219.773,0,304.556,0h70.588v88.242h-44.115 c-33.016,0-34.604,12.328-34.604,35.342l-0.131,44.162h79.346l-9.354,88.225L296.36,256L296.296,512z"/>