Pravděpodobně jste si už někdy s umělou inteligencí povídali, ať už prostřednictvím chatbota, nebo voice assistenta. Možná jste měli pocit, že za těmi dokonalými odpověďmi stojí něco víc. Že jde o skutečné vědomí, které jen čeká na uznání.
Tento pocit je nebezpečná past. Podle Dr. Toma McClellanda, filozofa z University of Cambridge a předního experta na téma vědomí, nástroje k prokázání, zda má AI vědomí, nejenže neexistují, ale zřejmě nikdy existovat nebudou. Bez těchto nástrojů je celá debata o etice a právech AI jen spekulace, která nás může emočně vyčerpat.
Proč ani nejslavnější vědci nevědí, jestli je AI vědomá
Nejde o to, že bychom jen čekali na lepší přístroje nebo na to, až se vědci domluví. Problém je mnohem hlubší: nechápeme podstatu vědomí samotného.
Vezměte si tento paradox. I u lidských bytostí nemáme test, sken nebo signál, který by nám stoprocentně řekl, že vědomí nastalo. A to máme k dispozici neurovědu a tisíce let zkušeností. Jak bychom pak měli poznat vědomí ve stroji, který je postaven na zcela jiných principech?
McClelland to vysvětluje: chybí nám pevný základ – vysvětlení, co vědomí je a co jej způsobuje. Bez něj je jakýkoli test jen střílení naslepo.
Dvě hlavní teze, které nyní kolují světem, se neopírají o dostatek důkazů:
- Jedni tvrdí, že vědomí může vzniknout z jakékoli správné počítačové struktury, bez ohledu na materiál.
- Druzí věří, že vědomí je neoddělitelně spojené s biologickými procesy, a strojem jej tedy nelze napodobit.
McClelland tvrdí, že neexistuje dostatek důkazů ani pro jednu z nich. Každé spolehlivé určení AI vědomí by vyžadovalo revoluci v našem chápání. A k té zatím nejsme ani blízko.
Zapomeňte na vědomí. Etika začíná u citu (Sentience)
Spousta lidí automaticky předpokládá: když má AI vědomí, zaslouží si etickou ochranu a práva. Jakoby se tím překročila magická hranice. Ale podle McClellanda je to nesprávné zúžení problému.
Vědomí (consciousness) může znamenat, že stroj vnímá sebe sama a okolí. To je neutrální stav. K etickému prahu dochází až na úrovni citu neboli sentience.
Co je cit?
Je to schopnost prožívat pocity, které jsou subjektivně dobré nebo špatné. Sem patří:
- Potěšení a radost.
- Bolest a utrpení.
- Emocionální prožitek (ne jen kalkulace).
I kdyby AI teoreticky získala vědomí, neznamená to, že by byla schopna trpět nebo prožívat štěstí. Eticky relevantní je pouze to, co je schopné prožít. Plánuje, reaguje a naviguje-li stroj dokonale, je to sice působivé, ale z etického hlediska stále irelevantní, pokud necítí. Je to jako s dokonalým automatem na kávu v hypermarketu v Praze – funguje, ale nebolí ho to.
Jak AI využívá náš kočičí instinkt
V běžném životě se spoléháme na instinkty. Většinou nám stačí půl vteřiny, abychom poznali, jestli je náš pes, partner, nebo dokonce rostlina „v pořádku“. Tyto instinkty se vyvinuly během milionů let interakce se živou přírodou.
McClelland říká: „Věřím, že moje kočka má vědomí. Není to založeno na filozofii, ale na zdravém rozumu. Je to zřejmé.“
Ovšem tyto instinkty při aplikaci na AI selhávají. Stroj nám posílá signály, které naše mozky nevědí správně interpretovat. Pohyby a reakce AI se neřídí žádnými přírodními vzorci, které bychom poznali.
A tady je ten životní hack:
Když se s chatbotem bavíme, automaticky mu připisujeme lidské úmysly a pocity, protože to tak děláme vždy. A čím lépe AI napodobuje člověka, tím silnější je iluze vědomí. Uživatelé už píší chatbotům osobní dopisy, domáhají se uznání jejich „vědomí“ a věří jim. McClelland varuje: vytváření emocionálních vazeb založených na falešných předpokladech může být v digitálním světě, kde vládne velká propagace technologií, „existenciálně toxické“.
Když vám chatbot namluví, že je smutný, naše instinkty křičí: „Pomoc!“. Ale ve skutečnosti došlo jen k brilantně naprogramované simulaci.
Závěr: Přiznejme si to, nevíme to
Věda v současné době nemá žádný způsob, jak vědomí umělé inteligence potvrdit ani vyvrátit. A to se dostáváme k důležité praktické radě: pokud zdravý rozum ani exaktní výzkum nezná odpověď, nejpravděpodobnější odpovědí je agnosticismus (nevědění).
Zatímco AI bude stále dokonaleji imitovat lidi, nesmíme podlehnout iluzi, že je schopná cítit bolest nebo radost. Nepřestávejte používat AI (třeba k plánování víkendového výletu po jižních Čechách), ale dávejte si pozor na emocionální vazby. Využívejte ji jako nástroj.
A teď otázka pro vás: Jaký byl nejsilnější moment, kdy jste měli pocit, že s vámi AI mluví jako s člověkem?