Čo ohrozuje ľudstvo informatizáciou celého nášho života

2024 Autor: Seth Attwood | [email protected]. Naposledy zmenené: 2023-12-16 16:15

Smartfóny, roboty a počítače nám uľahčujú život, no možno v tom niečo strácame? Reportér hovoril s americkým spisovateľom Nicholasom Carrom o nebezpečenstvách a dokonca hrozbách nadmernej automatizácie.

Všeobecne sa verí, že automatizácia všetkého a všetkých zlepšuje kvalitu nášho života. Počítače nám pomáhajú dosahovať špičkový výkon. Softvérové aplikácie robia úlohy rýchlejšie a jednoduchšie. Roboty preberajú únavnú a ťažkú prácu. Neustály prúd inovácií zo Silicon Valley len upevňuje vieru ľudí, že nové technológie robia život lepším.

Existuje však aj iný názor. Spisovateľ Nicholas Carr podrobuje postuláty moderného digitálneho sveta nestrannej analýze. Jeho esej „Does Google Make Us Stupid?“, publikovaná v Atlantickom oceáne v roku 2008, je stále kontroverzná, rovnako ako jeho bestseller z roku 2010, The Shallows.

Zástancovia teórie, že technológia zachráni náš svet, považujú Carra za jedného zo svojich najsilnejších protivníkov. A tí, ktorí sú ostražití pred následkami technologického pokroku pre ľudstvo, ho rešpektujú pre jeho vyváženú argumentáciu.

Teraz Carra zaujíma nová otázka: máme sa báť, že nás postupne na svete nečakajú žiadne ťažké úlohy? Stane sa náš život vďaka novým technológiám príliš efektívny?

Pred chvíľou som sa so spisovateľom stretol, aby som sa porozprával o jeho novej knihe Sklenená klietka: Automatizácia a my a o tom, čo ho prinútilo ju napísať.

1. Odhaľovanie hlavného mýtu o nových technológiách

Tom Chatfield:Ak tomu dobre rozumiem, v knihe „Sklenená klietka“sa snažíte vyvrátiť mýtus, že zjednodušovanie našich životov vďaka technologickému pokroku je nevyhnutne pozitívny jav.

Nicholas Carr:Na osobnej aj inštitucionálnej úrovni sme zvyknutí myslieť si, že efektívnosť a pohodlie sú štandardne dobré a ich maximalizácia je určite dôstojným cieľom. Zdá sa mi, že tento prístup k technológiám vo všetkých jej podobách, najmä v podobe počítačovej automatizácie, je dosť naivný. To platí aj pre naše vlastné túžby a skutočný život v modernom svete.

Nahradia niekedy počítače ľudí?

T. Ch.:A predsa sa väčšina prívržencov technologického pokroku drží utilitárneho hľadiska, podľa ktorého najväčšie chyby robíme v zanedbávaní efektivity a logiky a vlastne ani my sami nevieme, čo je pre nás dobré. Preto je z ich pohľadu úlohou technologického pokroku identifikovať nedostatky ľudského myslenia a následne vytvárať systémy, ktoré by tieto nedostatky kompenzovali. Je tento názor nesprávny?

N. K.: Na jednej strane mnohé inovácie vo vývoji výpočtovej techniky a vo vývoji automatizovaných systémov nemajú nič spoločné so širokým tvrdením, že ľudia sú v porovnaní s počítačmi veľmi nedokonalí. Áno, počítač je možné naprogramovať tak, aby vykonával určité operácie neobmedzene dlho s konzistentnou kvalitou. A je pravda, že takého niečoho človek nie je schopný.

Niektorí však zachádzajú ešte ďalej a tvrdia, že ľudia sú príliš nedokonalí, že ich úloha by mala byť čo najviac obmedzená a za všetky základné úlohy by mali zodpovedať počítače. Nejde len o snahu kompenzovať ľudské nedostatky – ide o úplné odstránenie ľudského faktora, v dôsledku čoho sa, ako sa tvrdí, náš život stane oveľa lepším.

T. Ch.: Zdá sa, že to nie je najlepší nápad. Existuje optimálna úroveň automatizácie?

N. K.: Otázkou podľa mňa nie je, či potrebujeme automatizovať tú či onú zložitú úlohu. Otázkou je, ako využívame automatizáciu, ako presne pomocou počítačov dopĺňať ľudské vedomosti a zručnosti, kompenzovať nedostatky v ľudskom myslení a správaní a tiež stimulovať ľudí, aby čo najlepšie využili svoje vlastné skúsenosti na dosiahnutie nových výšin.

Meníme sa na pozorovateľov počítačových monitorov

Prílišné spoliehanie sa na softvér z nás môže urobiť pozorovateľov počítačových monitorov a operátorov toku procesov. Počítače môžu zohrávať veľmi dôležitú úlohu, pretože sme len ľudia – môžeme sa stať obeťou predsudkov alebo prísť o dôležité informácie. Nebezpečenstvo však spočíva v tom, že je príliš jednoduché outsourcovať všetky naše funkcie počítačom, čo by bolo podľa môjho názoru nesprávne rozhodnutie.

2. Potrebujete priblížiť reálny život scenáru videohry?

T. Ch.: S potešením som si všimol, že vo svojej knihe uvádzate videohry ako príklad interakcie človek-stroj, v ktorej ide o to, prekonať ťažkosti, nie sa im vyhnúť. Najpopulárnejšie hry sú druh práce, ktorá dáva hráčovi pocit zadosťučinenia. Môžeme sa len sťažovať, že práca, ktorú mnohí z nás musia robiť každý deň, si vyžaduje oveľa menej zručnosti a prináša nám oveľa menej potešenia.

Videohry stimulujú hráča, aby vynaložil ďalšie úsilie a využíval mozog čo najviac

N. K.: Videohry sú zaujímavé tým, že ich koncepcia je v rozpore so všeobecne uznávanými princípmi tvorby softvéru. Účelom počítačových hier vôbec nie je zbaviť používateľa nepohodlia. Naopak, stimulujú hráča, aby vynaložil ďalšie úsilie a využíval mozog čo najviac. Videohry nás bavia práve preto, že sú pre nás výzvou s čoraz väčšími výzvami. Neustále sa ocitáme v ťažkých situáciách – ale nie v situáciách, ktoré spôsobujú zúfalstvo. Prekonanie každej novej úrovne len zdokonaľuje naše schopnosti.

Tento proces je veľmi podobný tomu, ako človek získava životné skúsenosti v reálnom živote. Ako vieme, pre rozvoj schopností človek potrebuje znova a znova čeliť vážnym prekážkam a znova a znova ich prekonávať s využitím všetkých svojich vedomostí a zručností. Postupne sa človek dostáva na novú úroveň, po ktorej sa zvyšuje zložitosť prekážok.

Myslím si, že ľudia milujú videohry z rovnakého dôvodu, pre ktorý ich uspokojuje získavanie nových skúseností a prekonávanie prekážok. Riešenie ťažkej úlohy, v rámci ktorej sa získavajú nové poznatky potrebné na prekonanie nových, ešte zložitejších ťažkostí, dáva človeku veľkú radosť.

Úplné podriadenie sa počítaču nás privedie k životu, v ktorom bude málo priestoru na sebarealizáciu

Jednou z hlavných obáv, ktoré v knihe vyjadrujem, je, že náš postoj k pokroku je spojený s túžbou vyhnúť sa čo najviac riešeniu zložitých problémov. Zdá sa mi, že tento uhol pohľadu je v rozpore so samotným konceptom životnej spokojnosti a sebarealizácie.

3. Odstránia počítače potrebu ľudí?

T. Ch.: Na rozdiel od videohier v skutočnom svete tvrdá práca nemusí byť nevyhnutne odmenená. Skutočný svet je nespravodlivý a nevyvážený. Snáď najznepokojujúcejším trendom je, že záujmy jednotlivca (psychologické, osobné a dokonca aj z hľadiska prežitia) sa čoraz viac vymykajú zo súladu s firemnými a vládnymi predstavami o účelnosti. Bojíte sa, že počítače konečne nahradia ľudí?

Mnoho hier je ťažké prejsť a vyžadujú od hráčov nezvyčajné zručnosti a vynaliezavosť. Prečo by nám teda zvyšok technológie mal len uľahčovať život?

N. K.: Keď som zbieral materiál na knihu, veľmi ma vystrašil článok (citáty, ktoré v texte citujem), ktorý napísal špecialista na vojenskú stratégiu. Vzhľadom na rastúci rozsah využívania počítačových technológií na bojisku podľa neho už veľmi skoro nemusí byť miesto pre človeka vo vojenských záležitostiach. Rýchlosť rozhodovania narástla natoľko, že ľudia jednoducho nedokážu držať krok s počítačmi. Nevyhnutne smerujeme k plne automatizovanému boju: bezpilotné lietadlá sa samé rozhodnú, kedy vystrelia rakety na ciele, a robotickí vojaci na zemi sa sami rozhodnú, kedy vystreliť.

Tento stav sa podľa mňa pozoruje nielen vo vojenských záležitostiach, ale aj v mnohých iných oblastiach – napríklad vo svete financií. Ľudia jednoducho nedržia krok s počítačmi napríklad pri obchodovaní s finančnými nástrojmi.

čo nás čaká? Možno stratíme nielen schopnosť, ktorá nás odlišuje od počítačov pre kritické hodnotenie našich vlastných činov - možno budeme takéto systémy implementovať bezmyšlienkovite, veriac, že hlavnou vecou je rýchlosť rozhodovania. A potom, ak sme presvedčení, že sme sa mýlili, zistíme, že niet cesty späť. Veľmi často sa ukazuje ako nemožné integrovať človeka do systému pôvodne postaveného na výpočtovej technike.

T. Ch.: Aj ja som bol zhrozený, keď som si vo vašej knihe prečítal pasáž o automatizovanom boji. Nadobudol som pocit, že proces, ktorý nás privedie k plne autonómnym bojovým systémom, sa nedá zastaviť. Časť môjho zdesenia pochádza zo spomienok na finančnú krízu v roku 2008, ktorá prakticky zničila bilióny dolárov. Ľudia sú teraz aspoň zodpovednejší k svojim financiám. Ale ak sa to stane vo vojenskej sfére, nezničia sa doláre, ale ľudské životy.

Budúcnosť bez ľudí?

N. K.: Nejde len o to, že nové technológie, najmä softvérové, sa dnes dajú veľmi rýchlo replikovať a distribuovať. Ide o to, že všetky tieto procesy prebiehajú v konkurenčnom prostredí. Či už hovoríme o pretekoch v zbrojení alebo obchodnej súťaži, akonáhle jeden zo súperov získa krátkodobú výhodu na úkor tej či onej technológie, táto technológia sa okamžite zavedie všade, kde je to možné – pretože nikto nechce byť v nevýhodou.

Myslím si, že v tejto situácii je príliš ľahké stratiť zo zreteľa skutočnosť, že sme v podstate zvieratá. Ľudia prešli evolučnou cestou po tisícročia, aby mohli žiť a prežiť. Úloha ľudskosti, ako aj naše pocity spokojnosti a sebarealizácie úzko súvisia s našimi skúsenosťami zo života vo svete, ktorý udáva naše obvyklé tempo.

Preto, keď postavíme človeka so všetkými jeho fyzickými výhodami a nevýhodami proti rýchlemu a presnému počítaču, objaví sa túžba vzdať počítačom celý svoj život. Zabúdame však na to, že totálne podriadenie sa počítaču nás privedie k životu, v ktorom bude málo priestoru na sebarealizáciu.

4. Ako automatizujeme svet?

T. Ch.: Myslím si, že musíme byť kritickí voči novým technológiám, ale znepokojuje ma, že ľudia premieňajú zbytočné ťažkosti a antitechnologickú „autentickosť“na fetiš. Existuje taký moderný myšlienkový smer, ktorý chváli tvrdú fyzickú prácu a tvrdí, že všetko, čo robíme, musí byť remeselné a autentické. Takáto pozícia podľa mňa zaváňa snobizmom a neberie do úvahy obrovské množstvo pozitívnych výdobytkov, ktoré so sebou priniesla demokratizácia technologického pokroku.

N. K.: úplne s tebou súhlasím. V rozhovore som dostal otázku, ako môj opatrný postoj k pokroku pomôže napríklad ľuďom pracujúcim v drsných podmienkach v mäsokombinátoch. Odpovedal som, že, samozrejme, vždy sa nájde miesto na automatizáciu výroby, kde treba zlepšiť pracovné podmienky ľudí. Ide len o to, že inovovať môžete inteligentne, alebo to môžete robiť bezmyšlienkovite; môžeme nájsť spôsob, ako vziať do úvahy hodnotu ľudskej skúsenosti a dôležitosť sebarealizácie, alebo môžeme jednoducho vychvaľovať schopnosti počítačov. Urobiť správnu voľbu nie je jednoduché. Ak túto úlohu vnímame výlučne čiernobielo – buď sa slepo postavíme za tvrdú, vyčerpávajúcu fyzickú prácu v akýchkoľvek situáciách, alebo naopak, zmysel života vidíme v sybarizme – veci to nepomôže.

Najťažšiu prácu vyžadujúcu výnimočnú presnosť je najlepšie prenechať strojom

Ľudia neustále vytvárajú a používajú nástroje. Od nepamäti musíme robiť rozhodnutia súvisiace s deľbou práce, s rozdelením množstva práce medzi človeka a nástroje, ktoré má k dispozícii. A zdá sa mi, že úžasná efektivita počítačov pri vykonávaní širokého spektra úloh len komplikuje proces prijímania takýchto rozhodnutí.

5. Čo nás čaká?

T. Ch.: Smeruje teda ľudstvo k úspechu?

N. K.: Historik prírodnej histórie Thomas Hughes, ktorý zomrel minulý rok, navrhol koncept „technologickej hybnosti“. Veril, že technológie zakotvené v sociálnych štruktúrach a procesoch sa začínajú vyvíjať samy od seba a ťahajú so sebou spoločnosť. Je dosť možné, že naša trajektória je už stanovená a že budeme pokračovať v súčasnej ceste bez toho, aby sme si kládli otázky, či ideme správnym smerom. Naozaj neviem, čo sa stane. Maximálne, čo môžem urobiť, je pokúsiť sa uvažovať o týchto skutočne zložitých otázkach, ako najlepšie viem.

Dúfam, že si ako jednotlivci a ako členovia spoločnosti dokážeme zachovať určitú úroveň porozumenia tomu, čo sa s nami deje, ako aj určitú úroveň zvedavosti a budeme sa rozhodovať na základe našich dlhodobých záujmov. a nie na základe našich zvyčajných konceptov pohodlia, rýchlosti, presnosti a efektívnosti.

Príde deň a roboty nás zbavia všetkých ťažkostí. Potrebujeme to?

Zdá sa mi, že sa musíme snažiť o to, aby počítače obohacovali naše životné skúsenosti a otvárali nám nové príležitosti a nerobili z nás pasívnych pozorovateľov obrazoviek monitorov. Stále si myslím, že ak z nových technológií vyťažíme viac, budú schopné robiť to, čo technológie a nástroje dokázali v celej histórii ľudstva – vytvárať okolo nás zaujímavejší svet a pomáhať nám, aby sme sa sami stali lepšími. Koniec koncov, všetko závisí od nás samých.