trendsdesigner-lifeHír
A gép szemével: Amikor az AI kezd bennünket meghatározni
Printmag·2026. április 22.·6 perc olvasás
A generatív mesterséges intelligencia egyre gyakrabban válik kreatív partnerré a designban. Ronnie Alley Machine Gaze projektje azonban rávilágít: ha túlságosan ráhagyatkozunk ezekre az elfogult, adatvezérelt rendszerekre, az összetett emberi identitást leegyszerűsített, kiszámítható és torzított képekké zsugoríthatjuk.
Következő yellow esemény
Design System és kollaboráció nemzetközi környezetben - Hidegföldi Gergő
máj. 13., szerda17:00· Serfőző Péter
**Mit csinálsz, amikor egy algoritmus kezd eldönteni helyetted, hogyan néz ki egy meleg nő vagy egy indiai fiatalember?** Ronnie Alley, az ArtCenter College hallgatója pontosan ezt vizsgálta "Machine Gaze" című diplomamunkájában – és az eredmények elgondolkodtatók.
Alley négy kísérletben tesztelte, hogyan építi fel az AI az emberi identitást. Amikor kvír embereket kért le, a rendszer rögtön sztereotípiákba menekült: meghatározott ruházat, testtartás, testtípus – mind olyan jelzések, amiket a kulturális sablonokból tanult meg. De a legmegdöbbentőbb az volt, amikor semleges promptokat használt. "Egy leszbikus nő magabiztosan áll a fal mellett" – semmi extra. Mégis: túlnyomórészt fiatal, vékony, gyakran fehér emberek jelentek meg. A nők gyakrabban lettek szexualizálva, míg a férfiak öltönyben pózoltak. **Az AI nem véletlenül dönt így – egyszerűen felerősíti azt, amit a tréningadatokból megtanult.**
A legérdekesebb fordulat akkor jött, amikor különböző országok embereit kellett bemutatnia szövegesen. Itt nem sztereotipizált, hanem épp az ellenkezőjét tette: mindenkiből ugyanazt a globalizált városi szakembert faragta, aki jógázik és természetjáró. **Az AI nem csak torzít, hanem összemossa is az identitásokat.** A kérdés tehát nem az, hogy használjuk-e ezt a technológiát, hanem hogy hagyjuk-e, hogy ő határozza meg helyettünk, milyenek vagyunk.
Alley négy kísérletben tesztelte, hogyan építi fel az AI az emberi identitást. Amikor kvír embereket kért le, a rendszer rögtön sztereotípiákba menekült: meghatározott ruházat, testtartás, testtípus – mind olyan jelzések, amiket a kulturális sablonokból tanult meg. De a legmegdöbbentőbb az volt, amikor semleges promptokat használt. "Egy leszbikus nő magabiztosan áll a fal mellett" – semmi extra. Mégis: túlnyomórészt fiatal, vékony, gyakran fehér emberek jelentek meg. A nők gyakrabban lettek szexualizálva, míg a férfiak öltönyben pózoltak. **Az AI nem véletlenül dönt így – egyszerűen felerősíti azt, amit a tréningadatokból megtanult.**
A legérdekesebb fordulat akkor jött, amikor különböző országok embereit kellett bemutatnia szövegesen. Itt nem sztereotipizált, hanem épp az ellenkezőjét tette: mindenkiből ugyanazt a globalizált városi szakembert faragta, aki jógázik és természetjáró. **Az AI nem csak torzít, hanem összemossa is az identitásokat.** A kérdés tehát nem az, hogy használjuk-e ezt a technológiát, hanem hogy hagyjuk-e, hogy ő határozza meg helyettünk, milyenek vagyunk.
Ez a cikk egy szerkesztett kivonat — az eredeti, teljes anyagot itt olvashatod:
Eredeti cikk olvasása ↗
