Ali lahko stroji ravnajo moralno?
Umetna inteligenca zna veliko: računati, analizirati, prepoznavati, celo govoriti. A enega ne zna: ravnati moralno. AI nima vesti, sočutja, vrednot. Ne odloča na podlagi odgovornosti, ampak na podlagi številk, pravil in verjetnosti.
To pomeni: ko umetna inteligenca nekaj odloči – npr. katera prijava „izgleda dobro“ ali kateri otroci se zdijo posebej „učljivi“ –, to stori na podlagi podatkov, ne na podlagi pravičnosti. Če so ti podatki pristranski, je pristranska tudi odločitev umetne inteligence.
Zato je etika tako pomembna. Pomaga otrokom razumeti:
- Kje so meje?
- Kaj je pravično?
- Kaj sme tehnologija – in kaj ne sme?
Predsodki, diskriminacija in odgovornost
Umetna inteligenca ni „nevtralna“. Prevzame tisto, kar se je naučila. In če se uči iz besedil, slik ali videov, ki vsebujejo predsodke, jih ne razume – temveč jih kopira.
Primeri:
- Slikovna umetna inteligenca pri moškem v obleki prepozna „šef“, pri ženski z otroki pa „mama“.
- Jezikovna umetna inteligenca pri določenih imenih pogosteje priporoča nižje šolske stopnje – ker se je tega „naučila“ iz starih podatkov.
- Prevajalski AI napiše „zdravnik – medicinska sestra“, čeprav spol ni bil določen.
Otroci morajo razumeti:
„Če nekaj reče stroj, to ni avtomatično pravilno – ali pravično.“
In lahko vprašajo:
„Kdo je programiral ta AI? In kakšne vrednote so v njem?“
Oblikovanje vrednot v digitalni dobi
Otroci razvijajo svoj občutek za vrednote prek vzornikov, pogovorov in izkušenj. V svetu z umetno inteligenco so potrebna nova vprašanja:
- Kaj je spoštovanje – tudi v klepetu?
- Kaj se sme reči – kaj ne?
- Kaj je šala – in kaj je žaljivo?
- Kako se obnašam, če nekdo z umetno inteligenco osramoti drugega?
Etika ni šolska predmet, ki ga lahko odkljukate – je način razmišljanja. In se razvije doma. S poslušanjem, spraševanjem in jasnim sporočilom:
„Samo zato, ker nekaj lahko storite, to še ne pomeni, da to smete storiti.“
Primer
Emilia odkrije nepravičnost v igri
Emilia je stara 13 let in navdušena nad programiranjem. S pomočjo umetne inteligence razvije svojo prvo lastno pustolovsko igro. V tej igri naj bi umetna inteligenca samodejno prepoznala, ali je igralni lik „koristen“ ali „nevaren“ – na podlagi njegovega videza.
Sprva se zdi, da vse deluje. Toda po nekaj testih Emilia opazi nekaj čudnega: liki s temnejšo barvo kože ali resnimi potezami obraza so opazno pogosto ocenjeni kot „nevarni“ – čeprav v igri dejansko ne počnejo ničesar groznega.
Emilia je presenečena – to ni bil njen namen. Začne se spraševati: „Zakaj umetna inteligenca tako ocenjuje te like? Od kod ta ocena?“
Skupaj s svojo starejšo sestro se lotita raziskovanja. Ugotovita, da je bila umetna inteligenca usposobljena z ogromno količino slik iz interneta – in mnoge od teh slik odražajo nezavedne predsodke.
Emilia je šokirana.
„To je nepravično,“ reče. „Ne želim, da moja umetna inteligenca prevzame takšne predsodke.“
Zato začne v sistem vnašati lastne, uravnotežene slikovne podatke – in postopoma se rezultati spreminjajo. AI sprejema bolj poštene odločitve.
Emilia tako spozna: umetna inteligenca lahko prevzame predsodke – vendar jo je mogoče tudi usposobiti, da postane bolj pravična.
Vaja
Kaj bi storili vi? Digitalne zgodbe o dilemah
Ta vaja otroke na igriv način seznani z etičnimi vprašanji.
- korak: Preberite zgodbe o dilemah
Izberite eno od naslednjih situacij in jo preberite skupaj:
Primer 1:
„Prijateljica ti pokaže sliko sošolke, ki jo je ustvarila umetna inteligenca – z filtrom smeha. Izgleda smešno. Vsi se smejijo. Želi jo deliti. Kaj storiš?“
Primer 2:
„S ChatGPT si napisal odlično esej – vendar ga moraš oddati kot svoje delo. Nihče ne bi opazil. Kaj storiš?“
Primer 3:
„Najdeš deepfake video vplivneža – govori grde stvari. Izgleda resnično. Želiš ga posredovati naprej. Kaj misliš o tem?“ - korak: Razmišljanje in pogovor Vprašajte:
- Kaj se zdi pravilno?
- Kaj bi ti pomagalo sprejeti pravo odločitev?
- Koga bi to prizadelo – in kako?
- korak: Izmišljajte si lastne dileme
Otroci lahko sami izmišljajo kratke zgodbice – z zapleteno odločitvijo. Skupaj lahko razmislite:
Kako se v digitalnih situacijah obnašati pošteno, pogumno in odgovorno?
Spodbuda za starše
Tehnična inteligenca potrebuje človeški odnos.
Pojasnite svojemu otroku:
- „AI zna računati – vendar ne more čutiti, kaj je prav in kaj ni.“
- „Tehnologija ti lahko pomaga pri odločanju – vendar ti ne sme vzeti sposobnosti razmišljanja.“
- „Ni vse, kar je mogoče, tudi pošteno ali pravično.“
- „AI ne ve, kako je biti žalosten, jezen ali zaljubljen.“
- „Če se odloča stroj, moraš kljub temu vprašati: Ali je to pravično?“
- „Uporaba tehnologije je v redu – vendar ostajaš odgovoren za svoje odločitve.“
- „AI se lahko nauči le tisto, kar ji pokažejo ljudje – zato morajo biti ljudje najprej pravični.“
- „Vedno se vprašaj: Kdo je AI naučil tako soditi – in z kakšnim namenom?“
- „Če odkriješ nepravičnost v tehnologiji, jo lahko postaviš pod vprašaj – in spremeniš.“
Tako boš okrepil svojega otroka kot dejavnega človeka v digitalnem svetu.
Infobox
Ali ste vedeli...?
- Sisteme umetne inteligence razvijajo skoraj izključno odrasli – mnogi med njimi so moški, beli, iz Evrope ali ZDA.
- Študije kažejo: otroci, ki govorijo o pravičnosti in odgovornosti, se na vsebine umetne inteligence odzivajo bolj premišljeno.
- Obstajajo že prvi projekti, v katerih otroci sami sodelujejo pri razvoju „pravične umetne inteligence“ – na primer na Nizozemskem in Finskem.