Предубедености към изкуствения интелект | dLambow

(Biases towards artificial intelligence) -

Предубедености при използване на Изкуствен интелект (AI)

Какво е пристрастие в изкуствения интелект?

Пристрастие на изкуствения интелект (AI), наричано още пристрастие на машинното обучение или пристрастие на алгоритми, се отнася до системи с AI, които произвеждат предубедени резултати, които отразяват и поддържат човешките пристрастия в обществото, включително историческо и настоящо социално неравенство. Те са форми на дискриминация, които могат да възникнат, когато AI системи са обучени на данни, съдържащи предубедености.

Предубедености към изкуствения интелект (Biases towards artificial intelligence)

Кои са предубеденостите към изкуствения интелект?

Предубедеността при използване на AI е проблем, който става все по-актуален с развитието на изкуствения интелект. ИИ системите се използват все по-широко в различни области на живота, включително здравеопазване, финанси, правоприлагане и др. Тези системи обаче могат да бъдат предубедени, което може да доведе до дискриминация и неравенство.

Предубедеността в ИИ може да възникне по различни начини.

Един от начините е, когато данните, използвани за обучение на ИИ система, са предубедени. Например, ако система за лицево разпознаване е обучена на набор от данни, който съдържа предимно изображения на мъже, тази система може да бъде по-малко точна при разпознаването на жени.

Друг начин предубедеността да възникне в ИИ е, когато самата система е проектирана с предубедености. Например, ако система за кредитиране е проектирана да оценява кредитоспособността въз основа на минали данни за кредитиране, тази система може да бъде несправедлива спрямо групи хора, които са били исторически дискриминирани.

Предубедеността в ИИ може да има редица негативни последици.

Тя може да доведе до дискриминация, несправедливост и дори насилие. Например, ако система за лицево разпознаване е предубедена срещу хора от определен етнически произход, тази система може да бъде използвана за дискриминация срещу тези хора при достъп до работа, жилище или други услуги.

Фактори за предубеденост към ИИ

Предубедеността при използване на ИИ може да възникне от различни фактори, включително:

- Предубедените данни, на които се обучават ИИ системите.

Ако данните, на които се обучава ИИ система, са предубедени, системата също ще бъде предубедена. Например, ако ИИ система се обучава на данни за кандидати за работа, които са предимно мъже, системата може да бъде предубедена срещу жените.

- Предубедените алгоритми, които се използват за разработване на ИИ системите.

Дори ако данните, на които се обучава ИИ система, са справедливи, алгоритмите, които се използват за разработването на системата, все пак могат да бъдат предубедени. Например, ако ИИ система се разработва с цел да идентифицира потенциални престъпници, алгоритмът може да бъде предубеден срещу определени раси или етнически групи.

- Предубедените интерпретации на резултатите на ИИ системите.

Дори и ИИ системата да не е предубедена, хората, които интерпретират нейните резултати, могат да бъдат предубедени. Например, ако ИИ система е разработена за да оценява риска от депресия, хората, които интерпретират нейните резултати, могат да бъдат предубедени срещу определени раси или етнически групи.

Предубедеността при използване на ИИ може да има сериозни последствия.

Тя може да доведе до дискриминация и неравенство, както и до повишаване на риска от злоупотреба. Например, предубедена ИИ система за кредитиране може да откаже кредит на хора от определени раси или етнически групи, което може да затрудни тяхното икономическо развитие. Предубедена ИИ система за правоприлагане може да доведе до прекомерно преследване на определени групи хора, което може да влоши отношенията между тези групи и властите.

Мерки против редубедеността към Изкуствения интелект

Предубедеността в изкуствения интелект (ИИ) е проблем, който става все по-изразен в последните години. ИИ системите се използват все по-често в различни области, включително здравеопазване, финанси и правоприлагане. Това означава, че решенията, взети от тези системи, могат да имат значително въздействие върху живота на хората.

Има редица неща, които могат да се направят, за да се намалят предубеденостите в ИИ. За да се справят с проблема с предубедеността при използване на ИИ, е необходимо да се предприемат различни мерки. Тези мерки включват:

- Използване на по-разнообразни данни за обучение на ИИ системите.

Това ще помогне за намаляване на предубежденията, които могат да бъдат възникнали в данните. Например, ако система за лицево разпознаване е обучена на набор от данни, който включва изображения на хора от различни етнически групи, тази система ще бъде по-малко предубедена.

- Техники за отстраняване на предубедености

Друг начин да се намалят предубеденостите в ИИ е да се използват техники за отстраняване на предубедености. Тези техники могат да помогнат за идентифициране и отстраняване на предубеденостите в ИИ системите.

- Разработване на алгоритми, които са по-малко предубедени.

Това може да се постигне чрез използване на различни техники, като например регулиране на алгоритмите или използване на алгоритми, които са по-устойчиви на предубедеността в данните.

- Тълкуване на резултатите на ИИ

Обучение на хората, които интерпретират резултатите на ИИ системите, за да бъдат по-малко предубедени. Това може да се постигне чрез предоставяне на обучение за предубеденост и дискриминация.

Ето някои конкретни примери за предубеденост при използване на ИИ:

• - През 2018 г. изследователи откриха, че ИИ система, използвана за оценка на риска от депресия, е била по-предразположена да идентифицира чернокожи хора като депресирани, отколкото бели хора.

• - През 2019 г. беше разкрито, че система за лицево разпознаване, използвана от полицията в Минесота, е по-малко точна при разпознаване на хора от африкански произход.

• - През 2020 г. беше разкрито, че система за кредитиране, използвана от една от големите банки в САЩ, е по-малко вероятно да одобри кредити на хора от чернокожи и латиноамерикански произход.

• - През 2020 г. изследователи откриха, че ИИ система, използвана за идентифициране на потенциални престъпници, е била по-предразположена да идентифицира чернокожи мъже като потенциални престъпници, отколкото бели мъже.

• - През 2021 г. изследователи откриха, че ИИ система, използвана за определяне на риска от ипотечни кредити, е била по-предразположена да откаже кредити на хора от определени раси и етнически групи.

• - През 2021 г. беше разкрито, че система за изкуствен интелект, използвана за диагностициране на рак на гърдата, е по-малко точна при диагностициране на рак на гърдата при жени с тъмна кожа.

Организации за отговорното използване на ИИ

Има редица организации, които работят за насърчаване на отговорното използване на ИИ и за намаляване на предубежденията при използване на ИИ. Някои от тези организации включват:

- Обществото за машинно обучение (ACM): 

ACM има етичен кодекс, който насърчава отговорното използване на ИИ.

- Европейската комисия: 

Европейската комисия разработи ръководство за намаляване на предубежденията при използване на ИИ.

- Международната организация за стандартизация (ISO): 

ISO разработи стандарт за намаляване на предубежденията при използване на ИИ.

Тези примери показват, че предубедеността при използване на ИИ е реален проблем, който може да има сериозни последствия.

Заключение

Проблемът с предубедеността при използване на ИИ е все още в начален стадий на развитие. Въпреки това, е важно да се обърне внимание на този проблем, за да се гарантира, че ИИ системите се използват по отговорен и справедлив начин.

Отговорното използване на ИИ е от съществено значение за гарантиране, че ИИ се използва за добро и не за зло. Като предприемем мерки за намаляване на предубежденията при използване на ИИ, можем да помогнем за създаването на по-справедлив и равнопоставен свят.

-------
Ако темата ви харесва, споделете я с приятели. Ако са възникнали въпроси, задайте ги в коментарите по-долу. След седмица проверете за отговора.
----------------