Obsah - ČLOVĚK JAKO ORGANISMUS V SÍTI - Předchozí esej - Další esej - PDF verze

Zranitelní podle vzorce

O algoritmické slepotě k jinakosti a diskriminaci bez záměru

Digitální systémy mají rády vzorce. Hledají pravidelnost, opakování, pravděpodobnost. To, co neodpovídá modelu, je buď chyba – nebo hrozba. A právě v tom je jádro problému: neurodivergentní, odlišní, minoritní nebo zkrátka nestandardní lidé jsou algoritmicky podezřelí.

Není to zlý úmysl. Je to slepota. Když umělá inteligence rozhoduje o přijímání na školu, půjčce, zaměstnání nebo i trestu, vychází z dat, která historicky zvýhodňovala většinu a trestala výjimku. Čím „jinější“ jste, tím nečitelnější jste pro systém. A co stroj nechápe, to nepodporuje.

Z bezpečnostního pohledu to může působit jako posílení stability. Ale ve skutečnosti jde o automatizovanou diskriminaci. Nevědomou, ale vysoce efektivní. Lidé se učí přizpůsobit – nebo vypadnout z viditelnosti. A právě ti nejzranitelnější jsou nejméně schopní si to uvědomit, natož tomu čelit.

Naděje? Design, který počítá s jinakostí. Učení se z rozdílnosti, ne proti ní. Rozhraní, která se přizpůsobují člověku – ne člověk jim. A především vědomí, že lidská hodnota není v souladu s normou, ale v jejím přesahu.