Perspektívy „iskin“v riadení ľudstva

2024 Autor: Seth Attwood | [email protected]. Naposledy zmenené: 2023-12-16 16:15

Čo sa stane, ak veríte umelej inteligencii, že ovláda ľudí? V našej legislatíve si 99% zákonov navzájom odporuje. Logicky by malo dôjsť ku kolapsu moci a zastaveniu riadiaceho systému …

Teraz sa zamyslime nad miestom, ktoré umela inteligencia(ďalej - iskin) prijme do nášho života, keď (ak) bude vynájdený a aplikovaný. Navrhujem nehádať sa o jej vnútornej podstate. Nech je to len veľmi pokročilý algoritmus, ktorý má schopnosť pracovať s veľkými dátami a je schopný podobne kopírovať vzorce správania skutočných ľudí. Ale ak chceš, nech je to, o čom sa diskutuje, skutočný muž, ako to ty sám chápeš.

Hlavná otázka tu znie. Kde použijeme toto Hammer of Thor, keď ho dostaneme? A v zásade niet pochýb o tom, že sa to dá vyrobiť. Vieme urobiť digitálne brúsky, samoučiace sa algoritmy tiež, nahromadené veľké dáta - všetko je tam.

Povedzme v riadení technických systémov, napríklad jednotlivých dopravných jednotiek? - No, kamon … Prečo robiť inteligentný a zložitý systém, aby ste mu zverili to, čo kôň zvládne? Na procesore bude dosť a primitívny algoritmus za 10 babiek za kýblik, problém s riadením dopravy je len v získavaní dát a v etických otázkach. Čo potom? Myslite na pätnásť sekúnd.

Podľa mňa je len jeden skutočná vec pre iskina je riadenie ľudí … Presnejšie procesy, ktorých súčasťou sú ľudia. Vymieňať za menej nemá zmysel z viacerých dôvodov. Každý človek je pripravený riadiť ľudí bez špeciálneho školenia. Napríklad úplne dôverujeme každému, že spraví naše vlastné deti. Taktiež takmer každý v tímoch mal aspoň nejaké manažérske skúsenosti. Aspoň na úrovni "hoď ešte jednu lopatu do nosidiel a my to ponesieme." Ak všetci človek je v princípe schopný riadiť ľudí, potom to musí zvládnuť AI, inak je to mentálne narušený intelekt.

Výsledky riadenia ľudí však zďaleka nie sú ideálne. Akákoľvek skutočná kontrola je séria chýb a nepresností. Navyše počet chýb takmer nezávisí od úrovne manažéra, je to určitá konštanta. Je to tak, že majster nakladačov robí menšie chyby a guvernér má právo robiť chyby, ktoré majú vážne následky. Tomuto rozumieme. „Mali sme urobiť zle“je hlavným výsledkom odrazu okolitého sveta vrátane nás samých.

A teraz je v našich rukách AI, ktorá to má „urobiť“. A hneď to použijeme, pretože problém, ktorý to teoreticky dokáže vyriešiť, je ten najdôležitejší. A Jamshut s tromi triedami vzdelania je tiež schopný riadiť nákladné auto.

Ak so mnou v tomto súhlasíte, potom pokračujme v predstavovaní funkčnosti umelej kože, ktorú má zvládnuť. Koho funkcie by mal vykonávať, koho by mal svojimi rozhodnutiami nahradiť alebo aspoň posilniť?

Je jasné, že to budú úradníci (vo verejnej správe aj v biznise). Úradníci rozhodujú. Úradníci sú akceptovaní na všetkých úrovniach kompetencie. Úradníci sú dnes dôležití a potrební, pretože rozhodnutia neprijímajú sami. Ale je tu jeden bod.

Pozrime sa na každého manažéra (teda na každého úradníka) z pohľadu doslovného obsahu jeho praktickej činnosti. Nie však v zmysle jeho motivácií – archetyp motivácií by ako keby nemal byť. Úradník buď schvaľuje transakcie, alebo ruší transakcie schválené iným úradníkom.

V ideálnom stroji musia byť všetky transakcie bezpodmienečne schválené a žiadna transakcia nemôže byť zrušená, pretože bola predtým právne schválená. Dôležitým faktorom v tomto systéme je, že transakcie sa úradníkovi predkladajú z „čiernej skrinky“na posúdenie. Nie je mu poskytnuté vysvetlenie, prečo by sa takáto transakcia mala uskutočniť alebo prečo ju schválil iný úradník. Riadiaci systém je zostavený nasledovne. Vyššie je uvedený príkaz vo forme príkazu na vykonanie niekoľkých transakcií.

Všimnite si, že ideologická štruktúra takéhoto systému vôbec neznamená možnosť zrušiť (neschváliť) transakciu prijatú zhora, z „čiernej skrinky“. Ale v praxi takáto možnosť vždy existuje. A práve ona poskytuje dve najdôležitejšie veci: moc každého úradníka a zadržiavanie takejto moci.

Dovoľte mi vysvetliť, že každá chyba (vyššie sme povedali, že je nevyhnutná a trvalá) môže byť rozpustená v opozícii základných byrokratických más, potom môžu byť následky chyby minimalizované.

V teoretickom ideálnom systéme riadenia by však nemalo dochádzať k chybám, z tohto dôvodu sa úloha úradníka redukuje na formálne schvaľovanie transakcií, ktoré nemôže len schvaľovať, pretože sú správne. To znamená, že to nie je potrebné. Otázka sa teda scvrkáva na počiatočný signál manažmentu. Ak je to správne, potom vo všetkých nižších úrovniach nemá zmysel.

Čiže teoreticky by mal fungovať konsolidovaný rozpočet štátu. Keď je prijatý, znamená to, že je odhalená celá jeho fraktálna podstata. Každá kapilára musí dostať pridelenú časť krvi a ako odpoveď - zamýšľaný výsledok. Áno, úplne dole sú „ale nedodali sme betón včas, a preto…“Ale prepáčte, toto je úplne dole a riadiaci aparát pozostáva z mnohých úrovní, ktoré sa betónu nedotýkajú. vôbec operujú s transakciami. Chápem, že na stredných úrovniach „betón nebol dodaný“vyzerá inak, ako „viceprezident stavby kozmodrómu ukradol 100 miliónov, a preto…“Tu hovorím o ideálnej schéme.

Vráťme sa k našej ideálnej pleti. Koniec koncov, v tejto úlohe musí vyriešiť rovnaké problémy - schválenie alebo zákaz transakcií. A on to dokáže! Len teraz bude môcť naraz vymeniť všetky stupne riadenia. Ak totiž vo funkcii ministra schváli veľkú transakciu na ministerskej úrovni, tak by jeho rozhodnutie malo byť uznané za správne. A zahŕňa analýzu celej ďalšej distribúcie veľkej transakcie až po zaplatenie IP Pupkina za opravu verandy psychiatrickej liečebne v Kineshme.

Takže celý reťazec úradníkov, ktorí sú povinní schvaľovať transakcie nižších úrovní nasledujúcich po prvej, možno bezpečne nahradiť rovnakým algoritmom AI. Problém už bol vyriešený až do konca. Našu AI nie je potrebné použiť ani na výmenu celého reťazca, AI jednoducho túto potrebu zruší. Jeho rozhodnutie je pravdivé, pretože je správne. A hneď obsahuje riešenia pre celý fraktál.

Poznámka. Každý podriadený úradník v našom reálnom svete môže byť múdrejší ako ten vyšší. Potom bude sabotovať rozhodnutia šéfa a potom mu pomôže. Vždy je to tak. Všetci existujúci funkcionári zastávajú miesta svojich bývalých nadriadených, okrem počiatočnej úrovne. O konkurencii ale v tomto prípade nemôže byť ani reči. Jeden iskin si o všetkom v celom reťazci rozhoduje sám, nemôže si protirečiť.

Navyše. V našom systéme riadenia existujú súdy, ktorým sme dali právomoc zrušiť akúkoľvek z našich transakcií a vykonávať svoje vlastné, bez ohľadu na náš názor na ne. (Umiestnenie vraha do väzenia je tiež transakcia viazaná pravidlami. Sudcom je tu úradník, ktorý schvaľuje alebo ruší transakciu, ktorá mu príde podľa predpisu z čiernej skrinky.) Ak je náš hlupák dobrý, tak je lepší ako úradníci, pretože sme ho poverili schvaľovaním alebo rušením transakcií za nich (pre nás). Tak potom je lepší ako sudcovia. V opačnom prípade sa ukáže, že rozhodnutia iskin môžu ľudia napadnúť a zrušiť. A ak to ľudia prijmú, pripustia, že AI je horšia ako ľudia. Na základe čoho potom vymieňa úradníkov?

Záver. Súdiť sa nebude ani Iskin. Opäť. Ak ste vy, ľudia, napísali svoj najlepší algoritmus, poznali ste ho tak dobre, že ste mu dali moc nad sebou samým, potom nemôžete napísať ešte lepší algoritmus, aby posudzoval rozhodnutia prvého. Ako manažér aj ako sudca použijete svoj najlepší algoritmus. Presnejšie, sudcovia jednoducho zmiznú. Budete musieť dať tejto AI úplnú moc nad vami.

Mimochodom, digitalizovať sa dá aj originálna čierna skrinka, odkiaľ prichádzajú prvotné údaje na kontrolu do ISK. A dokonca musí byť digitalizovaný. Konsolidovaný rozpočet by mal byť najvhodnejší. A robí to tiež.

Ďalší moment. Alebo možno postaviť nad človeka, ktorý by kontroloval jeho rozhodnutia, aby sa nestali chyby, ktoré môžu nastať napríklad jeho neľudskosťou? - Potom si všetci úradníci zachovajú svoje pozície a svoju moc. Dostanú tiež právo zrušiť transakcie schválené ISK alebo schváliť zrušené. Bohužiaľ, nevyzerá to reálne. Iskin poskytne výtlačok zdôvodnenia svojho rozhodnutia. A človek nebude môcť svojimi pocitmi alebo záujmami vyvrátiť formálnu logiku. Aj v tomto prípade platí, že ak je ku každému prejavu (v skutočnosti jediného) činu pripútaný živý úradník, nebudú mu vedieť odolať.

Ospravedlňujeme sa za zmätok, je tam veľa myšlienok a dĺžka textu nenávratne rastie.

Po zapnutí ISK dôjde k úplnému kolapsu. Nie, chápem, že ho najprv jazdia v testovacom režime. Ale to bude sprofanovanie, lebo potom bude treba napodobniť celú spoločnosť so všetkými súvislosťami ako celok, nie zjednodušený model, ale toto digitálna mlátička nedokáže.

Potom bude spustený v obmedzenom režime na podmienenom území Perm. Chyby, ladenie, nové vydanie a výroba?

No skôr či neskôr sa červená páska prestrihne a ľudia budú môcť auto ovládať na plný výkon (s rukou na vypínači).

A viete, čo sa stane? Iskin ukončí všetky transakcie úplne. Logika „ak-tak“bude kolidovať s miliónmi regulačných noriem v súčasnej legislatíve, ktoré si desaťtisíckrát protirečia. Finita. Naše vlaky zastavia, platba za konzervu saury v supermarkete neprejde. Každý bude okamžite obvinený z množstva priestupkov a zločinov, ktoré by mohli byť poslané úradom, ale všetci ľudia v úradoch budú okamžite prepustení a súdení. Rozhodnutia súdu vydajú žalobu okamžite. Veľké rande, všetko sa o vás píše. Dobre, toto sú maličkosti. Ale ani vám nebudú môcť previesť plat, pretože úrad dlhuje dane a vagón vás pokutuje.

preháňať? Nie. Prvé spustenie (s rukou na vypínači) bude kontrolované, otestujte dva, otestujte dvadsaťdva… A jedného dňa sa zapne naplno, ako keby prešlo celým cyklom testov. A potom … A odvoláme úradníkov, situáciu zachránia dobrovoľníci.

Dá sa takýmto smutným následkom vyhnúť? - Samozrejme, môžete to skúsiť. Na to je potrebné urobiť niekoľko vecí. Zničte 99 % legislatívy, recyklujte zvyšné 1 % bez toho, aby ste dieťa vyliali vodou. (Takéto veci sa väčšinou robia po plnohodnotnej revolúcii s plnohodnotnou občianskou vojnou. Ako sa to robí v čase mieru - netuším.) Navyše treba prepracovať morálku. Pokiaľ ide o krádež balíka papiera z kancelárie (alebo podvádzanie manželky), je to buď úplne prijateľné (odrážané v zákone), alebo je to úplne časovo obmedzené. Táto morálka sa musí prebudovať v mysliach spoločnosti. V opačnom prípade začne rezať optické káble, čo je lacné, jednoduché a účinné proti AI. Ďalšou možnosťou je hodiť túto kožu pravdepodobnému partnerovi, nech si poreže ruky. A, samozrejme, vyššie vrstvy by sa nemali stať nepohodlnými. Ak to nedokážu, využijú to ako poslednú šancu.

Nesnažím sa vás presvedčiť, aby ste zrútili počítače. Z iskin nikam nepôjdeme. Predbehne nás, budeme sa musieť s ním zapodievať. Pokúsme sa pochopiť, s čím (s kým) musíme vstúpiť do boja s naším osudom.