Döbbenetes dologra jött rá az emberrel kapcsolatban a mesterséges intelligencia, erre még az orvosok sem voltak képesek

A tudományos-fantasztikus filmek visszatérő témája a mesterséges intelligencia (AI) felülkerekedése az emberen. A "gonosszá" váló programok szerencsére egyelőre csak a képzeletünkben léteznek, bár már van néhány olyan képességük, amelyek a szakemberekből is meglepetést váltanak ki.

Ilyen például az, hogyan tudják a röntgenképekből meghatározni, hogy az adott illető melyik rasszhoz tartozik. Ez ezért különlegesség, mert erre még a tudósok sem képesek, azt viszont sejteni lehet, hogy az AI ezen tulajdonsága nem szülhet sok jót.

Ez ugyanis elfogultságot eredményezhet, káros megkülönböztetést okozhat bizonyos embertársainknál. Különösen úgy, hogy a mesterséges intelligencia máris egészen nagy (90 százalékos) pontossággal rendelkezik ezen a téren.

Az ezzel kapcsolatos kutatásokat nagynevű amerikai felsőoktatási intézmények, a Harvard Egyetem és az MIT végezték. A szakemberek először a véletlennek tulajdonították a dolgot, de aztán kénytelen voltak elismerni, hogy az AI valóban megkülönbözteti az emberi rasszokat, ők pedig - és ez az igazán nyugtalanító - nem tudják, hogyan csinálja.

Példaként azt hozták fel, hogy a mellkasi röntgenképek elemzése során a mesterséges intelligencia nagyobb eséllyel hagyta figyelmen kívül a betegségek jeleit fekete női pácienseknél. Ráadásul mindezt úgy tette, hogy a nyilvánvaló faji jellemzőkről (bőrszín, testtömegindex, csontsűrűség stb.) nem rendelkezett egyértelmű adatokkal.

A problémát az jelenti ezzel a különleges képességgel kapcsolatban, hogy könnyen elsajátítható, ezáltal pedig probléma nélkül átültethető képelemzési modellekbe. Mindez az orvosi gyakorlatban már jelenlévő diszkrimináció felerősödését eredményezheti, ami nyilvánvalóan nemkívánatos következmény volna.