Kai mašinos pradeda „mąstyti” – kas gali nutikti?
Dirbtinis intelektas šiandien nėra kažkoks tolimas mokslinis eksperimentas. Jis jau čia – telefonuose, socialiniuose tinkluose, medicinos diagnostikos sistemose, autonominiuose automobiliuose ir net teismuose, kur algoritmai padeda spręsti, ar asmuo gali būti paleistas už užstatą. Ir būtent dėl to etikos klausimas nebėra filosofų diskusijų tema – tai labai praktinis, labai realus ir labai skubus reikalas.
Problema ta, kad technologijų tempas ir etikos diskusijų tempas gyvena tarsi skirtinguose laiko dimensijose. Technologijos lekia į priekį su raketos greičiu, o visuomenė, politikai ir net patys kūrėjai dažnai atsiduria situacijoje, kai reikia komentuoti tai, kas jau įvyko – o ne tai, kas dar tik planuojama. Šiame straipsnyje pabandysime išnarplioti, kur slypi tikroji rizika, kodėl ji tokia sudėtinga ir ką galima padaryti jau dabar.
Šališkumas algoritmuose – kai „objektyvumas” yra mitas
Vienas iš labiausiai paplitusių mitų apie DI – kad jis yra neutralus. Žmonės klysta, mašinos – ne. Skamba logiškai, bet realybė yra visiškai priešinga. Algoritmai mokosi iš duomenų, o duomenys atspindi pasaulį tokį, koks jis buvo – su visais jo išankstiniais nusistatymais, diskriminacija ir nelygybe.
Klasikinis pavyzdys – COMPAS sistema, naudota JAV teismuose recidyvizmo rizikai įvertinti. Tyrimas parodė, kad sistema juodaodžius asmenis žymėjo kaip aukštesnės rizikos beveik dvigubai dažniau nei baltaodžius, net kai jų nusikaltimų istorija buvo panaši. Sistema nebuvo „rasistinė” sąmoningai – ji tiesiog išmoko iš istorinių duomenų, kuriuose rasizmas jau buvo įkoduotas.
Tas pats vyksta ir darbo rinkoje. Amazon kažkada bandė sukurti automatizuotą CV atrankos sistemą – ir ją teko išjungti, nes ji sistemingai žemino moterų kandidatūras. Kodėl? Nes buvo mokoma ant istorinių duomenų, kuriuose technologijų sektoriuje dominavo vyrai.
Ką daryti praktiškai:
- Jei naudojate DI įrankius personalo atrankoje, reguliariai audituokite rezultatus pagal demografinius rodiklius
- Reikalaukite iš tiekėjų „bias audit” ataskaitos – tai jau tampa standartu rimtose kompanijose
- Niekada nepalikite galutinio sprendimo algoritmui – žmogus turi būti sprendimo grandinėje
Privatumas skaitmeniniame amžiuje – ar dar turime ką slėpti?
Kalbant apie DI ir privatumą, dažniausiai galvojame apie veidų atpažinimą ar duomenų rinkimą. Bet problema yra daug gilesnė ir subtilesnė. Šiuolaikiniai DI modeliai gali iš fragmentiškų duomenų rekonstruoti informaciją, kurios jūs niekada tiesiogiai neatidavėte.
Pavyzdžiui, jūsų pirkimų istorija gali atskleisti jūsų sveikatos problemas. Jūsų naršymo įpročiai – politines pažiūras. Jūsų telefono judėjimo duomenys – religinius įsitikinimus (jei reguliariai lankotės bažnyčioje). Visa tai be jokio tiesioginės prieigos prie „jautrių duomenų” – tiesiog iš to, ką jūs laikote visiškai nekaltu skaitmeliniu pėdsaku.
Kinija šiuo metu valdo vieną iš plačiausių veidų atpažinimo infrastruktūrų pasaulyje. Bet tai ne tik Kinijos problema – Londone yra daugiau stebėjimo kamerų vienam gyventojui nei beveik bet kuriame kitame mieste pasaulyje. Europoje GDPR suteikia tam tikrą apsaugą, bet reguliavimas dažnai atsilieka nuo technologijų.
Praktinis patarimas: reguliariai tikrinkite, kokias teises suteikiate programėlėms. Daugelis žmonių niekada neperskaito privatumo politikos – ir tai yra suprantama, nes jos dažnai yra tyčia sudėtingos. Naudokite įrankius kaip Privacy Badger ar uBlock Origin naršyklėje. Ir svarbiausia – susimąstykite, ar tikrai reikia tos programėlės, kuri prašo prieigos prie jūsų kontaktų, fotoaparato ir vietos vienu metu.
Deepfake’ai ir dezinformacija – tiesos krizė
2023 metais internete pasirodė nuotraukos, kuriose Popiežius Pranciškus vilkėjo prabangų baltą pūkinuką. Milijonai žmonių tuo patikėjo. Tai buvo deepfake – ir tai buvo palyginti nekenksmingas pavyzdys. Bet technologija, kuri tai sukūrė, gali būti naudojama daug destruktyviau.
Deepfake’ai jau naudojami politinėje propagandoje, šantažui, finansiniam sukčiavimui. Buvo atvejų, kai sukčiai sukūrė vadovų balsų imitacijas ir telefonu liepė finansų skyriams pervesti pinigus. Viena Honkongo kompanija tokiu būdu neteko 25 milijonų dolerių – darbuotojas dalyvavo vaizdo konferencijoje su „kolegomis”, kurie visi buvo deepfake’ai.
Problema dar sudėtingesnė dėl to, ką tyrėjai vadina „liar’s dividend” – kai deepfake’ai tampa žinomi, politikai ir kiti veikėjai gali naudoti tai kaip pasiteisinimą: „tai deepfake’as”, net kai vaizdo įrašas yra tikras. Taip technologija ne tik kuria melą, bet ir sugriauna pasitikėjimą tiesą.
Kaip apsisaugoti? Nėra tobulo sprendimo, bet keletas dalykų padeda:
- Prieš dalindami sensacingą vaizdo medžiagą, patikrinkite per InVID ar FotoForensics įrankius
- Atkreipkite dėmesį į akis, plaukų kraštus, ausų formas – deepfake’ai vis dar dažnai klysta šiose detalėse
- Jei gausite neįprastą prašymą telefonu ar vaizdo skambučiu, visada patikrinkite per alternatyvų kanalą
- Kompanijose įveskite „saugos žodžio” protokolus finansiniams sprendimams
Autonominiai sprendimai ir atsakomybės vakuumas
Kai autonominis automobilis susiduria su neišvengiama avarija – ar jis turi apsaugoti keleivį ar pėsčiąjį? Kas atsakingas, kai medicinos DI diagnozuoja neteisingai ir pacientas miršta? Kas atsako, kai kreditų suteikimo algoritmas diskriminuoja? Gamintojas? Programuotojas? Kompanija, kuri naudoja algoritmą? Ar niekas?
Šiuo metu teisinis atsakomybės klausimas yra tikras chaosas. Daugelyje šalių įstatymai tiesiog nėra pritaikyti autonominiams sprendimams. ES AI Act bando tai spręsti – ir tai yra žingsnis į priekį – bet įgyvendinimas ir interpretacija dar ilgai bus diskusijų objektas.
Ypač nerimą kelia karinės aplikacijos. Autonominiai ginklai – dronai, kurie patys nusprendžia, ką atakuoti – jau egzistuoja. Tarptautinė humanitarinė teisė reikalauja, kad karo veiksmai būtų proporcionalūs ir atskirtų civilius nuo kombatantų. Kaip algoritmas gali tai įvertinti sudėtingoje, chaotiškoje karo aplinkoje? Ir kas atsako, kai klysta?
Šioje srityje praktiniai patarimai yra labiau politiniai nei techniniai: palaikykite organizacijas, kurios spaudžia vyriausybes reguliuoti autonominius ginklus. Campaign to Stop Killer Robots yra viena iš jų. Tai gali atrodyti toli nuo jūsų kasdienio gyvenimo, bet sprendimai, priimami dabar, formuos pasaulį ateinančius dešimtmečius.
Darbo rinka ir ekonominė nelygybė – kas laimi, kas pralaimi?
McKinsey, Goldman Sachs ir daugybė kitų tyrimų institucijų prognozuoja, kad DI automatizuos dešimtis milijonų darbo vietų per ateinančius 10-20 metų. Bet čia svarbu nepanikuoti ir neidealizuoti – tiesa, kaip visada, yra sudėtingesnė.
Istoriškai technologinės revoliucijos naikino kai kurias profesijas, bet kūrė naujas. Problema ta, kad šis procesas nėra nei greitas, nei teisingas. Žmonės, kurių darbai automatizuojami, dažnai yra tose pačiose bendruomenėse, tose pačiose demografinėse grupėse – ir jiems nėra lengva persikvalifikuoti į „DI trenerius” ar „duomenų mokslininkus”.
Be to, DI sukuriama vertė koncentruojasi labai siauroje grupėje – technologijų kompanijose ir jų investitoriuose. Tai reiškia, kad produktyvumo augimas nebūtinai virsta platesne gerove. Tai yra esminis politinis ir ekonominis klausimas, kuris reikalauja politinių sprendimų – ne tik technologinių.
Ką galite daryti jau dabar kaip individas:
- Investuokite į įgūdžius, kurie sunkiai automatizuojami – kritinis mąstymas, empatija, kompleksinių problemų sprendimas, kūrybiškumas
- Mokykitės dirbti su DI, o ne prieš jį – tai jau dabar yra konkurencinis pranašumas
- Sekite, kaip jūsų sektoriuje diegiamas DI – geriau suprasti pokyčius iš anksto nei reaguoti į krizę
- Palaikykite politikas, kurios skatina perkvalifikavimą ir socialinę apsaugą technologinių pokyčių kontekste
Egzistencinė rizika – ar reikia bijoti superintelekto?
Čia mes įeiname į teritoriją, kur rimti mokslininkai nesutaria labai fundamentaliai. Viena stovykla – Eliezer Yudkowsky, Nick Bostrom ir kiti – teigia, kad superinteligentas DI yra egzistencinė grėsmė žmonijai. Kita stovykla – Yann LeCun ir daugelis praktikų – mano, kad tai yra pernelyg spekuliatyvu ir atitraukia dėmesį nuo realių, dabarties problemų.
Tiesa ta, kad mes tiesiog nežinome. Ir tai pats savaime yra problema. Kai kuriate technologiją, kurios pasekmių negalite prognozuoti, etikos reikalavimai turėtų būti ypač aukšti. „Precautionary principle” – atsargumo principas – čia yra labai aktualus.
OpenAI, Anthropic, DeepMind – visos šios kompanijos oficialiai teigia, kad dirba ties „AI safety”. Bet tuo pat metu jos lenktyniuoja, kas greičiau išleis galingesnius modelius. Tai yra fundamentalus prieštaravimas, kurį reikia įvardinti tiesiai.
Sam Altman kartą pasakė, kad ChatGPT gali būti „viena pavojingiausių technologijų žmonijos istorijoje” – ir tuo pat metu toliau ją kūrė ir platino. Tai nėra veidmainystė tiesioginę prasme – tai atspindi realų dilemą: jei aš nesukursiu, sukurs kitas, galbūt su mažiau atsargumo. Bet šis argumentas turi savo ribas.
Tarp utopijos ir distopijos – kur mes iš tikrųjų esame ir kur einame
Baigiant šią kelionę per DI etikos labirintus, svarbu nepasiduoti nei techno-optimizmo euforijai, nei apokaliptinei panikai. Abu kraštutinumai yra prabanga, kurią mes – kaip visuomenė – negalime sau leisti.
DI jau dabar daro nuostabių dalykų: padeda diagnozuoti vėžį anksčiau nei žmonės gydytojai, prognozuoja klimato pokyčius, pagreitina vaistų kūrimą, leidžia žmonėms su negalia komunikuoti ir kurti. Tai realu ir tai svarbu. Bet taip pat realu, kad tie patys įrankiai gali būti – ir jau yra – naudojami stebėjimui, manipuliacijai, diskriminacijai ir dezinformacijai.
Esminis dalykas, kurį reikia suprasti: DI nėra neutrali jėga. Jis atspindi vertybes, prioritetus ir galios struktūras tų, kurie jį kuria ir kontroliuoja. Ir kol tą kūrėjų grupę sudaro daugiausia turtingi, vakarietiški, vyriški technologai, DI atspindės tų žmonių pasaulėžiūrą – net jei to nesiekiama sąmoningai.
Todėl svarbiausia rekomendacija yra ne techninė – ji yra pilietinė. Domėkitės. Klausinėkite. Reikalaukite skaidrumo iš kompanijų ir vyriausybių. Balsuokite už politikus, kurie supranta technologijų politiką. Palaikykite nepriklausomą žurnalistiką, kuri tiria technologijų kompanijas. Ir – galbūt svarbiausia – nepalikite šių sprendimų tik technologams.
DI etika nėra tik inžinierių reikalas. Tai yra mūsų visų reikalas. Nes pasaulis, kurį formuoja šios technologijos, yra pasaulis, kuriame mes visi gyvensime.
