Groter dan ons brein…of groter dan ons hart.

‘het is zinniger  om aan de niet van zichzelf bewuste planeet intelligentie toe te schrijven dan aan de stupide mensheid’. John Gray in  “Het onsterfelijkheidscomité” p 191-203 nav de zgn Gaiatheorie.

 

Ray Kurzweil zegt op p 169 van “De singulariteit is nabij” dat in 2045 het punt van de singulariteit is bereikt. Dwz ‘de niet-biologische intelligentie die in dat jaar gecreëerd wordt zal een miljard keer sterker zijn dan alle menselijke intelligentie vandaag bij elkaar.’ Dat is niet gering.

Maw het grootste brein dat de biologische/kosmische evolutie heeft geleverd (in de mens), is gepasseerd. Er is een nieuwe nummer ‘grootst’. Een nieuwe koploper. En dan zijn we voor de rest van de geschiedenis een eeuwige tweede. Chapeau! Wij zijn verslagen. Wij kunnen dat nieuwe brein niet bevatten, niet regelen, niet beheersen. Het zal ons altijd te slim af zijn. Het gaat ons verstand te boven. We zijn ‘geantiqueerd’ zegt Günther Anders al lang.
Na het ontstaan van dat verstand dat ons te machtig is, maak je feitelijk geen enkele kans meer, is de boodschap van Ray Kurzweil.

Ray K is al lang met deze materie bezig. En onverminderd enthousiast. Hij is wetenschapper/uitvinder/ zakenman. Je krijgt de indruk dat hij zijn zaakjes prima beheerst. Ja zelfs dat hij er zo’n beetje over gaat. Al zou ik hem toch geen snoever willen noemen. Ook omdat ik hem niet overal kan volgen. Ik had destijds ook beter op moeten letten toen het over logaritmes ging op school.
Maar inderdaad Ray blijft geweldig enthousiast.
Toch walst hij niet zonder meer heen over een lezer die hier bang van wordt. Een apparaat of een wezen of een ding of een robot of een computer of een mens die dat vergrote brein heeft of is,- ja wat is dat? Kwalitatief gesproken. Of welke soort vertegenwoordigt hij. Ja, duidelijk een nieuwe. Homo sapiens 2.0 of variaties. En vooral praktisch waar gaat dat brein aan werken? Laat die zich gezeggen door wat wij graag willen? Is hij mensvriendelijk? Of staat hij aan de kant van al de vijanden die de mens zich gemaakt heeft?

Kurzweil schrijft dan nog eens nadrukkelijk:  “We zullen de biologische grenzen overschrijden, maar niet onze menselijkheid verlaten.” (Engels: We will transcend biology, but not our humanity.(engelse editie p 136).

We hebben het dan over het volgende. Met behulp van ons menselijke brein, hebben we kunstmatige breinen weten te realiseren die ons verstand overklassen. Sneller kunnen rekenen; meer tegelijk berekenen. Helderder ook. Dieper doordacht. Met meer zicht op consequenties en verbindingen. Te sterk voor door ons opgelegde beperkingen en grenzen.
We kennen allemaal het voorbeeld van als er besloten moet worden of er atoombommen gegooid moeten worden. Daar komen zoveel feiten en belangen en afwegingen en beloften en consequenties bij kijken dat er geen tijd is om met mensen al beraadslagend tot een verantwoorde beslissing te komen. Dat moet je aan een computer overlaten. Nu al. De dehumanisering van het krijgsbedrijf kun je dat noemen. Mensen kunnen (!) de oorlog niet meer leren (vgl Jesaja); de echte oorlog dat zijn de besturingssystemen.

Anders dan Ray K ben ik er nog niet gerust op dat het wel goed zit met onze menselijkheid als er zo’n maximaal, eindeloos uit te breiden verstand beschikbaar komt aan/in/voor mensen van ons formaat. Op p 507 is hij dat ook zelf niet zo erg meer. Maar hij scoort min of meer wel met de opmerking dat je ook nogal hulpeloos stond t.o. de plaatsing van tienduizenden atoomwapens. Scherm dat maar eens af tegen misbruik.

We moeten deemoedig erkennen dat wij met onze feilbare breinen dat ons te machtige brein veroorzaken. Wij brachten een proces opgang dat resulteert in kunstmatige intelligentie die zich zelf vermeerdert. Dat grotere brein zal dus kunnen falen en zegenen; zoals dat bij ons mensen hoort. Dat is volgens K het humane dat blijft. Zij het op mogelijk veel grotere schaal.

Kurzweil onderscheidt zijn visie van traditionele religie. Al onderkent hij overeenkomsten. 440 e.v.  Ik vind dat hij zich vaak verspreekt. Het is een visie. (“Zoals ik het zie” 443) Hij zal wel gelijk hebben dat het geen geloofssysteem is. Maar het heet bij hem ‘persoonlijke filosofie’, dan weten we genoeg.
“Alleen de technologie kan de oplossing leveren voor de problemen waar de menselijke samenleving al eeuwen mee worstelt”. 442. Hoe vaak is al niet geschreven dat dat geen ratio is, maar geloof, drive, motief etc.

Hoe K. het mens-zijn definieert is ook van belang. 445: “Voor mij betekent mens-zijn echter het deel uit maken van een beschaving die haar grenzen probeert te verleggen”. Ja zo kan ik het ook. Dat zal wel doorgaan na de komst van homo sapiens 2.0. Maar is de mens daar voldoende mee getypeerd?
op p 459 komt hij met: “Ik ben een zich ontwikkelend patroon en ik kan de richting beïnvloeden waarin de evolutie van mijn patroon gaat”. Is dat veel beter?
Of is het alleen zijn optimisme dat bijna religieus is. 446?

Er heerst een zekere spraakverwarring rond het woord menselijk. Wanneer houdt een misdadiger op mens te zijn? Niet. Hoeveel implantaat mag je hebben om niet meer mens te zijn? Dat kun je niet vaststellen. Daar kunnen sommigen uit concluderen, dat cyborgs dus wel degelijk tot de mensensoort gerekend kunnen worden. 449 Dan kan bewustzijn wel gekoppeld zijn aan het niet-biologisch gedeelte van onze (enorm toegenomen) intelligentie. Ze zullen zeker menselijk gedrag vertonen.
Of niet, zeg ik er dan maar bij.

Misschien moet je mens-zijn wel definiëren als het ongelukkige voorrecht om het zowel niet als wel te zijn: mens. In die zin kunnen mensen ook het onmogelijke mogelijk maken.

Als je een garantie wil dat het grotere brein nog menselijk zal zijn, zit je met de kwestie dat we geen definitie hebben van ‘menselijk’. We zijn ook p.d. niet vredelievend te houden. Het is menselijk om de verkeerde kant op te kunnen. In die zin zal de nieuwe intelligentie of sterke KI ook wel menselijk zijn. Menselijk is niet het criterium dat we moeten aanleggen bij KI. Maar wat dan wel?
Overigens: dat mensen falen kunnen, betekent niet een noodlot. Geloof ik althans niks van. Niets verhindert p.d. de definitieve keuze van ons hart om vredelievend te zijn. En alles te doen wat die keuze mogelijk maakt. En te zorgen dat die keuze de keuze van ons allemaal is.
Gaan die grotere breinen die kant op? Zonder onze aansturing?
M.i. gaat Ray K. althans  in de fout door op p.500 te stellen dat de ontwikkeling van absolute bescherming tegen sterke KI het veiligst kan gebeuren in een vrijemarkteconomie. In die garantie geloof ik niet.
We zullen nog met iets anders moeten komen.

Kan het niet laten Huub Oosterhuis te citeren:

” Omdat Gij het zijt,
groter dan ons hart”.

Advertenties