Berghs designstudenter tränade AI att bli mer inkluderande

Hej Daniela! I kursen hade du en workshop i samarbete med Florida Atlantic University (FAU) som undersökte AI-bias under ledning av Mehrdad Sedaghat Bahgbani, formgivare och biträdande professor. Kan du berätta lite om vad utgångspunkten var?

-Målet med den här kursen är att studenterna ska utveckla sin förmåga att förstå, analysera, resonera och argumentera kring visuell kultur, bilder och bildanvändning. En central del av kursen handlar om bilders makt och potential att påverka, och som följd av det vilken ansvar vi som bildskapare har. Utvecklingen av generativa AI-modeller tillför en ny och väldigt komplex dimension till det här. Oavsett om studenterna själva kommer arbeta med generativ AI eller inte, behöver de ha en djupare förståelse för vad tekniken gör med vår syn på bilder och vår visuella kultur i stort. Den här workshopen var ett bra sätt att närma sig frågorna om makt, representation och teknik.

Mehrdad Sedaghat Bahgbani är en iransk-amerikansk formgivare som arbetar med konst, design och teknik för att utforska kulturell identitet och migration. Han har sett att AI-bildgeneratorer i jämförelse är relativt bra på att återskapa västerländsk kultur, men har betydligt sämre kunskap om resten av världen. Det eurocentrerade perspektivet blev tydligt när eleverna bad ChatGPT att generera fotorealistiska bilder av en bonde. Nästan alla bilder visade en västerländsk man i hatt och hängselbyxor framför ett vetefält, trots att flest bönder finns i länder som Indien, Kina, Etiopien, Indonesien och Pakistan.

På samma sätt är AI riktigt dålig på att återge visuell kultur som inte är västerländsk. Den här blinda fläcken är en slags digital kolonialism som osynliggör stora delar av världens visuella historia. Ett sätt att motverka det är att träna algoritmerna med andra bilder. Här spelar vi formgivare en viktig roll. Som visuella experter kan vi vara aktiva medskapare och bidra till att bredda den visuella blicken så att de bilder som genereras bättre återspeglar hela världen.

Hur arbetade eleverna med att träna upp ai-algoritmernas visuella kompetens?

Studenterna jobbade i grupper tillsammans med de amerikanska design-eleverna. Tillsammans analyserade de historiska och samtida fotografier, kalligrafi, grafisk form, arkitektur och typografi från Mellanöstern och Nordafrika och skrev korta beskrivningar av vad de såg. På så sätt utvecklade de AI-algoritmernas förmåga att tolka visuell kultur från regionen. När klassen sen testade att generera bilder blev det tydligt hur mycket bättre algoritmerna blivit på att förstå design och typografi från Mellanöstern och Nordafrika. Det blev ett tydligt exempel på hur kultur kan bevaras, representeras och förändras i relation till AI.

Utöver att träna sig i att se och sätta ord på visuella artefakter från andra kulturer var samarbetet också intressant eftersom de kulturella skillnaderna mellan de svenska och de amerikanska eleverna blev tydliga. Hur vi ser på och pratar om bilder är väldigt tätt knutet till den kultur vi själva lever i.

Det här var en otroligt givande workshop. Den breddade perspektiven på AI-tekniken och gav en djupare inblick i grafisk form, typografi och kalligrafi från Mellanöstern och Nordafrika. Det blev också tydligt att det är viktigare än någonsin att värna en diversifierad och rik visuell kultur. Här är den grafiska formgivarens blick väldigt värdefull.