Sebične mašine

Kompleksnost inteligentnih računalniških sistemov, ki danes neposredno posegajo in transformirajo družbeno-politična področja, gospodarstvo in kulturo, daleč presega razumevanje tistih, ki so jih razvili. Hitrost pregledovanja, primerjave in obdelave množice informacij ter bliskovitost njihovega strukturiranja in generiranja rezultatov, sta neprimerljivi s človekom. Tako računalniškim sistemom prepuščamo vse več in vse zahtevnejše odločitve. Te sisteme, ki jih ne razumemo dovolj, urimo na zbirkah podatkov, ki v sebi skrivajo najhujše človeške impulze, uporabljamo pa jih pri nadzoru in v represivnih organih, v zdravstvu, v lastnih družbenih odnosih, pri diseminaciji podatkov in informacij, v bančništvu in financah ter pri upravljanju z viri. Vse to počnemo brez zadostnih standardov, brez resnega testiranja. In to kljub temu, da zapleteni inteligentni sistemi spreminjajo ustroj danih razmerij, kjerkoli jih uvedemo, področja, ki se jih dotikajo, pa hitro postanejo podrejena lastni logiki teh umetnih sistemov. Kljub temu, da mašinerija posega v naše bivanje še bolj radikalno in širše, kot le na naša neposredna telesa, te tehnologije še naprej uvajamo naglo in brez resnega premisleka in zadržkov. Vzvodov nadzora nad tehnologijo, kot so npr. v rabi pri farmacevtskih izdelkih, ki naj bi zagotavljali, da so neželeni učinki manjši in manj pogosti kot pozitivni, pa praktično ni.

Tadej Vindiš in Matic Potočnik sta v osmo/zi predstavila drugo fazo dolgoročnega Vidniševega raziskovalnega projekta Sebičnih mašin. V projektu Vindiš spodbuja samoučeče računalniške sisteme, da dajejo prednost svojim operativnim značilnostim pred učinkovitostjo njihove uporabe. Projekt obrača pozornost k stranskim produktom planetarnega superorganizma; k logiki računskih sistemov, ki namesto statistično pomembnih rezultatov proizvajajo avtonomne artefakte, kar nas lahko pripelje do bolj intuitivnega razumevanja tovrstnih sistemov. Bi “sebične mašine”, v svoji neuporabnosti v “resničnem svetu” še vedno imitirale svet, na način, kot ga dojemamo sami? Imajo take naprave kakršenkoli koncept človeštva, ali nas enostavno prezrejo? Česa se lahko naučimo od tovrstne nevednosti? In kaj je – v svojem jedru – računalniška inteligenca?