Egyre gyakrabban okoznak problémát a rassz tekintetében vegyes társadalmakban az embereket valamilyen módon kategorizálni próbáló algoritmusok. A Science magazinban publikált friss kutatás egy újabb súlyos problémára mutatott rá: az egyik jelentős egyesült államokbeli egészségbiztosító vállalat kockázatelemző algoritmusa drámaian csökkentette azon afroamerikai ügyfelek számát és arányát, akiknek az ellátására hajlandó volt extra anyagi támogatást biztosítani a cég.
A problémát az jelentette, hogy az algoritmus elsősorban az egészségügyi ellátásra korábban elköltött pénz mennyisége alapján osztogatta a kockázati pontszámot. A feketék általánosságban véve továbbra is számottevően szegényebbek a fehéreknél, ami miatt kevesebbet tudnak direkt és indirekt módon az egészségükre költeni, így nagyobb eséllyel lesznek egészségügyi problémáik.
A jelenség vége az lett, hogy a meglehetősen egészséges fehérek és a sokkal többet betegeskedő feketék ugyanolyan kockázati értékelést kaptak a rendszerben, így drámaian csökkent a plusz támogatásra jogosult afroamerikaiak száma.
A négyfős kutatócsapat segített az algoritmus javításában, a korábbi egészségügyi költségek helyett olyan indikátorokat vezettek be, mint a például az „aktív krónikus állapotok", vagy az „elkerülhető költségek". A javított kockázatelemző rendszer a biztosítottak tényleges egészségügyi állapotára próbálja alapozni a pontok osztogatását, nem pedig indirekt módon az általuk elkölthető pénz mennyiségére.
Persze az új rendszer is távol áll a tökéletestől, de a változtatások után az extra támogatásra jogosult afroamerikaiak aránya 17,7 százalékról 46,5 százalékra lőtt ki.
Ha szeretne még több érdekes techhírt olvasni, akkor kövesse az Origo Techbázis Facebook-oldalát, kattintson ide!