Molok är monstret som slukar oss alla

Människor har svårt att samarbeta med varandra i stor skala. Därför fastnar vi i destruktiva spiraler där alla förlorar. Där är vi med AI nu. Kan mönstret brytas innan det är försent?

Alfred Kubin – Into the unknown (1900/1901).

We will break our back lifting Moloch to heaven, but unless something changes it will be his victory and not ours.

– Scott Alexander “Meditations on Moloch”

Jag minns tydligt serietidningen jag hittade i skolbiblioteket. Jag tror att jag gick på mellanstadiet. Stämningen i handlingen var festlig när människorna villigt band fast sig själva i den gigantiska dockan av trä och halm. Man hjälptes åt. En efter en, rad efter rad, av kroppar som band ihop sig med varandra, men framför allt med den humanoida halmgubben. När tillräckligt många, hundratals, tusentals, bundit upp sig i den fick den eget liv, ett eget medvetande, ett uppdrag. Ute på fälten mötte den andra, liknande, jättar vars bränsle var de hjärtan som pulserade längs med halmkroppen. Det blev krig mellan jättarna. Människorna försökte ta sig loss, men det var omöjligt. Ingen styrde, men det fanns någon inbyggd, demonisk logik i det som skedde. När alla människor var döda slutade jättarna att röra sig.

Ibland har bilden återvänt till mig, men jag har inte hittat serietidningen när jag då och då har letat. Däremot hittade jag skräckfilmen The Wicker man (1973), där den jättelika skulpturen liknar den jag minns, men handlingen är en annan.

Under ett par år jobbade till och från på ett Kappahllager ute i Mölndal. Kom man en minut försent fick man en skarp reprimand. Lagret var som en stor organism, och om det blev stopp i någon del av verksamheten, fortplantade det sig till alla delar. Att vara punktlig var det viktigaste. Någon gång blev vi tillsagda att vi var för glada. Ibland att vi jobbade för snabbt. Finns ens såna här jobb, kom jag på mig själv med att tänka. Borde inte det här kunna utföras av robotar? Men vi nya lärde oss att bli robotar. Dåliga robotar, men ändå robotar. Och det fanns inget medvetande i våra händer, vi lydde bara, alla följde samma algoritm. 

Under samma period läste jag Vredens druvor (1939) av John Steinbeck, som handlar om tiden vid den stora depressionen, när sandstormar förstörde jordbruket för majoriteten av småbrukarna på den amerikanska prärien. Folk tvingades sälja sina familjegårdar till banken för småpengar. Men vad är banken? Vem är banken? Steinbeck skriver:

“Sure, cried the tenant men,but it’s our land…We were born on it, and we got killed on it, died on it. Even if it’s no good, it’s still ours….That’s what makes ownership, not a paper with numbers on it."

"We’re sorry. It’s not us. It’s the monster. The bank isn’t like a man."

"Yes, but the bank is only made of men."

"No, you’re wrong there—quite wrong there. The bank is something else than men. It happens that every man in a bank hates what the bank does, and yet the bank does it. The bank is something more than men, I tell you. It’s the monster. Men made it, but they can’t control it.”

Monstret som sväljer oss har ett namn – Molok. Det var Scott Alexander, som har

Astral Codex Ten

här på Substack, som i en lång essä utvecklade vad Molok är. Han utgår från en dikt av Allen Ginsberg (se fotnot), men utvecklar tankegången vidare. I biblisk tradition är Molok en avgud som kanaaniterna bland annat offrar barn till och John Milton placerade honom högst i hierarkin av helvetets demoner. Alexander menar att det är namnet på det fenomen som spelteori återkommande försöker lösa – hur kan det komma sig att goda människor gör onda saker? Trots att ingen vill, känner de sig tvingade att utföra handlingar som de vet är destruktiva. De vet att det skadar andra, men är rädda att om de avstår kommer de själva att skadas. Det finns mängder av situationer där incitamentet att bete sig själviskt är så starkt att även de mest generösa faller till föga. Man kan förstås kalla det dålig karaktär, men det handlar snarare om hur svårt det är att samarbeta, särskilt på stor skala. 

Zdzisław Beksiński – Untitled (1978)