Stomme computers
Nooit heb ik langer gedaan over een internetartikel dan David Auerbachs essay The Stupidity of Computers op n+1, tenzij ik het Franse stuk van een Fransman over iets Frans in de geschiedenis meereken dat ik voor mijn studie moest lezen - ik kan geen Frans. Het n+1-stuk begreep ik prima, maar zoals het dit magazine betaamt was het een frikking lang, maar bovenal boeiend stuk waar ik elke letter van heb opgevreten. Auerbach legt uit waarom het maar niet lukt om computers als mensen te laten nadenken en laat vele semantische, ontologische, algoritmische en natuurlijk menselijke problemen die hieraan ten grondslag liggen de revue passeren. Concluderend heeft hij goed en slecht nieuws voor ons in petto:
The good news is that, because computers cannot and will not “understand” us the way we understand each other, they will not be able to take over the world and enslave us (at least not for a while).
Yeeeh!
The bad news is that, because computers cannot come to us and meet us in our world, we must continue to adjust our world and bring ourselves to them. We will define and regiment our lives, including our social lives and our perceptions of our selves, in ways that are conducive to what a computer can “understand.” Their dumbness will become ours.
Hmmm. Misschien. Al heb ik juist het idee dat we onze wereld voortdurend aanpassen juist vanwege tussenkomst van computers. De alomwezigheid van computers heeft ons volledig afhankelijk gemaakt van hun intelligentie en domheid. Hun slimheid is immers ook die van ons. Enfin, computers kunnen van Kasparov winnen, ons van a naar b brengen en koppelen aan de meest geschikte (bed)partner, af en toe gaat er nog wel eens wat de mist in. Het voorbeeld van de ‘beperkingen’ van computers en hun achterliggende systemen en hoe deze mensen kunnen meezuigen in vreemdsoortig falen wordt mooi duidelijk in het voorbeeld dat Auerbach aanhaalt:
In […] 2009, Amazon mysteriously deranked a huge number of gay-themed books, vastly decreasing their visibility on the site. Ex-employee Mike Daisey offered the believable explanation that “a guy from Amazon France got confused on how he was editing the site, and mixed up ‘adult,’ which is the term they use for porn, with stuff like ‘erotic’ and ‘sexuality.’” Amazon deranks any books it labels as porn, so when the “erotic” and “sexuality” categories were treated as porn, the effect was disproportionately on gay-themed books.
The ensuing outrage was justified because even though there was no intent to single out gay literature, the underlying ontology already lumped disproportionate chunks of gay literature into the “erotic” and “sexuality” categories. Edmund White’s and John Updike’s books have comparable amounts of sexual content, but only the former was de- listed. In this way, a bias built into the underlying ontology emerged, facilitated but not created by computers.
Zoals ene Emo (wtf?) Philips eens zei: “A computer once beat me at chess, but it was no match for me at kick boxing.”
