Megszüntetik a hallgatókat egyenlőtlenül kezelő algoritmust

2021. február 22. 22:12
Az austini székhelyű Texasi Egyetem, felhagyott a gépi tanulási rendszer használatával, ami az elmúlt években nagyban segítette az orvosi fokozatra (Ph.D) jelentkezők értékelését. A rendszer kritikusai szerint, ez fokozta az egyenlőtlenségeket a hallgatók megkülönböztetésében.

A GRADE (Graduate ADmissions Evaluator) névre hallgató tanulási rendszert 2013 óta használták az egyetemen. Az intézmény egyik oktatója és egy számítástechnikai hallgató hozta létre, azzal a céllal, hogy segítse a tanszék munkáját, időmenedzsmentjét. A GRADE egy pontozási rendszer alkalmazásával állapította meg, hogy a jelentkezőknek mekkora esélyük van bekerülni az egyetemi képzésre. A pontozáshoz bizonyos kulcsszavakat vizsgáltak, mint például „legjobb”; „díj”; „programozás”. 

Az osztályozás kialakításához figyelembe vették a múltbéli felvételi döntések adatbázisát. Ennek eredményeképpen nagyobb valószínűséggel fogadták el azokat a jelölteket, akiknek elit főiskolák nevei szerepeltek az önéletrajzukban.

A tanulási rendszert, már a kezdetektől számos kritika érte. 

„Ezeket a rendszereket emberek kódolják. Így saját elfogultságaik kerülnek bele az algoritmusokba” – nyilatkozta Yasmeen Musthafa, Ph.D. plazmafizikai hallgató a Kaliforniai Egyetemen.

Az egyetem éveken keresztül használta a rendszert, ám egy Twitteren zajló beszélgetés felhívta a figyelmüket arra, hogy a társadalom háttérbe szoruló tagjainak nem ad egyenlő esélyeket a GRADE, hiszen emberek alkották az algoritmust, melyben tudatos/tudattalan elfogultság is szerepelhet a történelmi egyenlőtlenség eredményeképpen.

A számítástechnika doktorának jelölt Manish Raghavan, aki az algoritmusok elfogultságát kutatta, egy fontos kérdést vetett fel: 

„Minden folyamat hibákat fog elkövetni. A kérdés az, hogy hol történhetnek ezek a hibák, és hogy kik szenvedhetnek ezek miatt?” 

A válasz nem túl meglepő, hiszen ezt a csoportot nagy valószínűséggel az alulreprezentált tagok, vagy olyan emberek alkotják, akik nem rendelkeznek megfelelő háttérrel az elit intézményekbe való bekerüléshez.

Igaz, hogy sok fekete és latin nő folytatott sikeres karriert a számítástechnikában, számuk mégis elenyésző ezen a területen. A 2017-es adatok alapján a fehérek, ázsiaiak és nem rezidens külföldiek az oklevelek 84 százalékát kapták meg IT szektoron belül az Amerikai Egyesült Államokban.

A GRADE alkotói azt nyilatkozták, hogy a rendszer csak arra van programozva, hogy megismételje azt, amit a felvételi bizottság 2013 előtt tett, és nem azért, hogy jobb döntéseket hozzon. A rendszer nincs programozva arra, hogy faji vagy nemi alapon megkülönböztesse a hallgatókat. 

Az egyetem pedig arra hívta fel a figyelmet, hogy a GRADE csak segítségként szolgált a felvételi eljárásban, hiszen a jelentkezéseket minimum egy oktatónak át kellett vizsgálnia, majd értékelnie.

Az ellentáborba tartozók szerint a faj és a nem is kódolható az alkalmazás egyéb szolgáltatásaiba, melyeket a rendszer használ. A női főiskolákat és a történelmileg fekete egyetemeket alulértékelheti az algoritmus, valamint az ajánlólevelek köztudottan tükrözik a nemek közötti elfogultságot, mivel az ajánlók a nőket inkább „gondoskodóként”, nem pedig „határozottként” jellemzik.

Azon érvek ellenére, amelyek a GRADE mellett állnak, a rendszer megszűnik létezni. A Texasi Egyetem szóvivője a rendszer fenntartásának nehézségére hivatkozott, hiszen felvételizőik száma egyre nagyobb. 

Musthafa állítása szerint ez nem elég ahhoz, hogy a diplomások között fennálló egyenlőtlenségek megszűnjenek, hiszen véleménye nem változott: „A mai rasszizmust örökítik meg a holnap algoritmusai."

Cikk szerzője: Bodó Anita
 


Kedvelje a Makronómot Facebookon!



Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!

Bejelentkezés