 |
| Ilustración: Sead Mujic |
Referencia documental del artículo
Traducción al español para blogdelviejotopo: Tucholskyfan Gabi.
Fuente original en alemán:
Götz Eisenberg: "Der Schein von Mitgefühl", publicado en nachdenkseiten.de el 4-2-2016 (URL: http://www.nachdenkseiten.de/?p=30852)
Götz Eisenberg: "Der Schein von Mitgefühl", publicado en nachdenkseiten.de el 4-2-2016 (URL: http://www.nachdenkseiten.de/?p=30852)
Fuente de esta traducción: blogdelviejotopo.blogspot.com.es, 7-2-2016.
Uso de esta traducción: licencia CC BY-SA. Reproducir esta ficha documental, conservando los enlaces (hipervínculos) que figuran (tanto a este blog como a la fuente en alemán).
Imagen y negrita: añadidos nuestro.
Imagen y negrita: añadidos nuestro.
________
Avances en inteligencia artificial (I.A.). La empatía simulada.
La investigación se emplea ya intensamente en desarrollar sistemas informáticos y robots dotados de inteligencia emocional. Y uno se pregunta el por qué de estos avances y si no es posible que una sociedad, entrada en razón, sepa pararlos. Los recursos intelectuales y económicos que en ello se vienen gastando mejor podrían destinarse a perseguir metas humanas y humanistas de verdadero fuste.
Un comentario de Götz Eisenberg
*
En el diario Süddeutsche Zeitung del 29.01.16 encontramos un artículo en la sección llamada ‘Inteligencia artificial’ firmado por Elisabeth André, catedrática de “Human Centered Multimedia” (algo así como Multimedia centrados en lo humano). Y muy al principio de su artículo leemos: “Para que cualquier acción resulte exitosa, los sentimientos son mucho más importantes de lo que cabe suponer”, sin abordar la cuestión de lo que hemos de entender por ‘acción exitosa’. Por ello, considera André, es deseable dotar los ordenadores de inteligencia artificial. Los sistemas informáticos que exclusivamente se orienten en criterios racionales, al interaccionar con las personas, alcanzan rápidamente sus límites. De modo que se está trabajando intensamente en simular mediante modelos adecuados la competencia emocional para poder implantarla en los sistemas de nueva generación. Siendo así que el usuario expresa sus estados anímicos mediante la mímica, gestos, posturas corporales y el lenguaje que el interlocutor/interactor mecánico ha de saber leer. Esto es, deberá saber compartir los sentimientos del usuario, ponerse en su lugar a la hora de sentirse éste estresado o enfadado, para poder responderle adecuadamente. Empleando sensores miniaturizados será posible captar y registrar sus conductas y comportamientos cotidianos de modo amplio y auténtico. En caso de un centro de llamadas (call center), por ejemplo, podría llegan a detectarse las características acústicas y prosódicas de quien llama, para saber el grado de su satisfacción con el servicio ofrecido. “Los sensores que se lleven en contacto con la piel podrán medir la conductancia cutánea, temperatura y el pulso que informarán sobre el grado de excitación de la persona. Los sensores de presión que se implanten en sillas detectarán si la persona, sentada en su mesa de trabajo, está relajada o estresada”. André refiere que aún no hay sistemas informáticos que sepan distinguir entre una sonrisa fingida y una verdadera, o reconocer una ironía.
Pero que llegará el momento en que los sistemas sabrán reaccionar a las emociones del usuario. Continúa André que ante unos simples reflejos de las emociones del usuario en un robot, ya cabría pensar en algo así como empatía; que la investigación ya se está planteando cómo lograr que los sistemas lleguen a expresar sus emociones de un modo natural, proponiendo implantes cutáneos en los robots para que puedan expresar de modo creíble las emociones básicas tales como duelo, rabia, alegría mediante la mímica de su semblante artificial. Un logro que, según André, aumentaría la naturalidad de los robots, y por tanto, su aceptación. Por los progresos en la simulación de la inteligencia artificial cabría esperar “que los artefactos interactivos del futuro se puedan dotar de capacidades emotivas refinadas, proporcionándole al humano que tiene en frente la ilusión de encontrarse ante individuos con sentimientos propios”.
Hasta aquí la referida catedrática. Leyendo su texto, no paré de preguntarme: ¿Y esto, de qué sirve? ¿Debemos o queremos llegar a esto? Habrá quienes lo querrán así. Detrás de semejantes investigaciones suele haber unos intereses económicos de envergadura, que en este campo otean unos mercados enormes. En la novela de Dave Eggers The Circle (esp. El Círculo) podemos leer hasta dónde puede llegar esta evolución, un escenario de verdadera pesadilla totalitaria. La señora André, como la científica que es, no se plantea ninguna de estas cuestiones, o al menos no las aborda en este artículo en el Süddeutsche Zeitung. Semejantes cuestiones se consideran no pertinentes, o paracientíficas. Heidegger nos sentencia lapidario: “La ciencia no piensa”. Investiga sin cuestionarse quién/es se benefician de sus avances y qué consecuencias sociales puedan traer. Max Horkheimer [1] decía: “Bajo el punto de vista puramente científico, el odio no es peor que el amor puesto que no hay ninguna razón por la que el placer de (hacer) sufrir sea distinto al placer de amar”. De la ‘Teoría crítica’ [2], mi generación ha ido aprendiendo que no todo lo que técnicamente resulte posible/factible se deba hacer o realizar. Escribe Adorno en sus Mínima Moralia (La sociedad emancipada): “Quizá la verdadera sociedad llegue a hartarse del desarrollo y, por pura libertad, deje sin aprovechar algunas posibilidades en lugar de pretender alcanzar, con desvariado ímpetu, ignotas estrellas”. [3]
Y me surge otra duda más, a saber, ¿por qué nos ofrece el Süddeutsche Zeitung en su suplemento cultural semejante texto afirmativo y sin crítica alguna? ¿Dónde queda su agudeza mental y actitud crítica que sí sabe manifestar en otras secciones donde escribe y firma, entre otros, Heribert Prantl? [4]
En sus Historias del señor Keuner [5], escribe Bertholt Brecht: “El señor Keuner poco sabía de la naturaleza humana (“Menschenkenntnis”) considerando que este saber sólo hace falta donde se da la explotación”. Según Brecht este conocimiento sobre los humanos lo necesita quien pretenda engañar a los demás o se proponga venderles algo que no necesitan. En adelante, las sillas donde se sentarán los candidatos solicitando un empleo, estarán equipadas de sensores que facilitarán datos sobre su resiliencia y resistencia al estrés. Las futuras centralitas informatizadas podrán detectar en la voz de quien llama su estado anímico y reaccionar adecuadamente. También se encuentra ya encaminada la robotización en materia de los cuidados de enfermos y ancianos, a no ser que la sociedad, vuelta a la razón, sepa oponerse y frenarlo.
A la vista de semejantes evoluciones ya se preguntaba Cees Nooteboom en su novela El Dia de todas las almas [6]: “Ni siquiera se cómo expresarlo. Tenemos ordenadores o somos ordenadores”. El cerebro humano, muchos contemporáneos lo toman ya por un ordenador lento y deficitario o por un buscador insuficiente. Günther Anders en los años cincuenta del siglo pasado, a la vista de los artilugios y la maquinaria que había ideado y logrado, ya se refería a la “vergüenza prometeica” del hombre y su “deseo de ser cosa”, frente a su propia defectuosa y caduca creaturalidad. El hombre como Prometeo, como creador del un mundo de máquinas, sostiene Anders, se encuentra en la penosa situación de sentirse constantemente inferior a lo hecho/fabricado, y por tanto, humillado [7].
Las modernas ciencias naturales, en su afán de llegar a dominar la naturaleza, han reducido el mundo a una serie de mecanismos y principios categóricos que cabe resumir en fórmulas matemáticas. Este modo de pensar, dice André Gorz [8] en su Crítica de la razón productivista (Catarata, 2008), acaba generando una máquina que:
“quedando sustituida el pensar/el acto reflexivo sobre la externalidad/superficialidad por la superficialidad de esta misma reflexión, entra a servir de punto de referencia para la mente humana: el ordenador, al mismo tiempo máquina calculadora e “inteligencia artificial”; máquina para componer música, para escribir poesía, diagnosticar enfermedades, traducir, hablar, etc. La capacidad para diseñar máquinas acaba por entenderse como máquina; la mente humana, capacitada para funcionar como una máquina, se reconoce en la máquina, al funcionar ésta como un humano, sin percatarse de que, en realidad, la máquina NO funciona como la mente humana, sino tan sólo como aquella mente que haya aprendido a funcionar como una máquina”.
El convertir a las personas en sujetos mercantiles y monetarios supone invalidar y empobrecerlas emocional y psíquicamente. Nuestra inteligencia social y emocional, esto es, la capacidad de sentirnos empáticos con otras personas, de sentir con ellas, de ver nuestra relación desde la perspectiva correcta, puede que no nos venga de nacimiento, pero sí se viene formando de buen grado a partir de muy tempranas vivencias. Para mejor o para peor, o en absoluto. Dadas las temperaturas gélidas que suelen predominar en las familias, que sólo lo son en apariencia, al vivir los integrantes, llenos de soledades, uno al lado de otro, el mundo interior se convierte en un paisaje glaciar lleno de sentimientos congelados.
Supeditando sus condiciones existenciales y vitales a los mercados, las personas van desarrollando cierta funcionalidad, eficacia, agilidad y flexibilidad – toda una serie de propiedades que les aportan unas ventajas en su diaria carrera de ratas. Ello implica además cierta dureza contra ellas mismas y los demás. Van perdiendo todas aquellas cualidades que se opongan a este afán y que hasta hace bien poco eran consideradas como humanamente deseables. Los seres humanos se van pareciendo a las máquinas que operan y en las que intentan meterse más y más. Vivir bajo las condiciones de un mercado desenfrenado genera un fenotipo de persona que se parece a los “psicópatas” tal y como los describen los psiquiatras Cleckley y Hare [9]: psíquicamente frígido, superficialmente encantador, asertivo, enfocado, sin escrúpulos, exclusivamente interesado en maximizar su propio beneficio y carente de empatía. Quien cuente con dichas propiedades, tiene las mejores perspectivas para ganar la lucha existencial neoliberal. Puede que algún día unos robots dotados de inteligencia emocional sean los últimos seres que conserven algunos rasgos humanos que pudieran haber “aprendido” de los últimos humanos. Al ocuparme del artículo de la señora André recordé un chiste perdido en las profundidades de mi memoria:
Un oficial de las SS en un campo de exterminio se dirige a un judío:
- Hoy deberías pasar a la cámara de gas, pero te doy una última oportunidad. Tengo un ojo de cristal y si detectas cuál es, te perdono la vida.
El judío le mira y dice:
- El izquierdo, Herr Obersturmbannführer.
- ¿Cómo lo has descubierto?
- Es que tiene la mirada más humana.
En los años sesenta del siglo pasado, el pedagogo Hans-Jochen Gamm editó un libro llamado El “Flüsterwitz” en el Tercer Reich (el chiste político transmitido en voz baja). En él Gamm sostenía la tesis que contra el ejercicio del dominio autoritario, más aún del poder en general, no existe nada mejor que recibirlo con risas y burlas. Para aquellos que no o ya no simpatizaban con el nacionalsocialismo, el contar semejantes chistes representaba un modo de resistencia subversiva, pero que no necesariamente ponía en peligro sus vidas. Aprendí de Gamm que la bufonada es una astuta variante de la protesta. El bufón al estilo de Till Eulenspiegel [10], practica y cultiva la resistencia de los pasitos pequeños y de ese modo puede sustraerse de la vergonzosa alternativa que sería convertirse en cómplice del sistema o ser engullido por él. Deberíamos ejercitar este tipo de bufonada sin falta. Me temo que dentro de nada nos será muy útil.
Notas:
[3] Citado según Akal/Bolsillo, 2004, p. 163.
[4] Desde 2011 redactor jefe del Süddeutsche.
[6] Publicado por http://www.siruela.com/catalogo.php?&completa=N&id_libro=759
[8] Cfr. AndreGorz.webloc
[9] Cfr. PsychopathyChecklist -#45A7BBA
Götz Eisenberg en el blog del viejo topo:
- Sobre la violencia. Un apunte de Götz Eisenberg sobre la violencia sistémica y las respuestas sociales.
- El enigma de la "servidumbre voluntaria". Un apéndice de Götz Eisenberg.
- PEGIDA y el extremismo del centro. El peligro de la islamofobia/xenofobia en Europa.
- De cigarras y hormigas. Aspectos de psicología social en el ensañamiento con Grecia y la política del ahorro austero.
- Entre el síndrome del 'Amok' y la enfermedad de Alzheimer. Acerca de la psicología social en tiempos del capitalismo sin restricciones. Un nuevo libro de Götz Eisenberg.
En el centro de Carrefour que tengo cerca de mi domicilio ya me saluda un "solícito" robot para animar y facilitarme la compra:-(((
ResponderEliminarMuy pertinente en los tiempos actuales, la mención y recuerdo de la Teoría Crítica de la Escuela de Frankfurt que aparece en el comentario de Eisenberg. Frente a la falacia positivista, la Escuela de Frankfurt supo dejar muy claro que NO EXISTE LA CIENCIA AL MARGEN DE VALORES, y que el conocimiento científico no es aséptico, ni neutro, ni imparcial, ni inocente... como el positivismo había aireado. La consecuencia de este giro protagonizado por la Teoría Crítica, facilitó algo que en mi opinión es fundamental: el compromiso social del científico; por encima de cualquier otra consideración, el científico está moralmente obligado a tomar partido, no es una persona que pueda considerarse por encima del bien y del mal. Son planteamientos que en mi época de estudiante me influyeron enormemente. Y en ese sentido me considero uno de tantos hijos de la Escuela de Frankfurt, que posiblemente haya sido una de las grandes aportaciones del siglo XX.
ResponderEliminarEn los tiempos que corren hay un repunte del positivismo. Ayer mismo lo comentaba con una compañera. Y hay coincidencia cronológica entre el repunte de lo que podemos llamar neopositivismo, con el neoliberalismo. Y no es una casualidad. Lo mismo con el auge de posturas biologicistas que pretenden explicar lo social y lo cultural desde la Biología. Si nos fijamos, los modelos teóricos científicos van muy ligados a fases específicas del capitalismo. ¡CUánta razón tenía la Escuela de Frankfurt!!
Gracias Gabi por esta nueva y magnífica traducción. Una buena lectura dominical. :-)
Ha sido un placer, porque yo también me considero hija de la Frankfurter Schule.
EliminarY cito a T. W. Adorno:
El progreso técnico responde al terco y estúpido deseo de no adquirir nunca baraturas, de no quedar de espaldas al proceso de producción desatado sin importar cuál sea el sentido de lo producido.
Al final de Terminator 2 la máquina con forma humana "comprendió" las emociones humanas aunque nunca podría sentirlas. La máquina sentenció: " está en vuestra condición humana el destruiros los unos a los otros".
ResponderEliminarEs otro engaño del capitalismo. Las maquinas no pueden producir sentimientos, solo almacenan datos, variables, pautas de comportamiento que las hagan asemejar al ser humano. Pero no creo que puedan reproducir el comportamiento irracional humano, o sea la infinita estupidez humana. Lo que intentan es degradar a la mayoria de humanos de mercancia que somos ahora, a maquinas. Unas maquinas de las que se puedan desechar cuando terminen su ciclo productivo. La escusa perfecta para no repartir con justicia las riquezas que la naturaleza nos ofrece, sumadas al producto de las maquinas.
ResponderEliminarLas maquinas y la tecnologia en plural, se tendrían que usar como medio para que tu justa contribución para con una sociedad donde todos sus integrantes tengan cubiertas por ley todas sus necesidades básicas y disponer del mayor tiempo para dedicar a los tuyos, a tus aspiraciones e inquietudes físicas, artísticas, espirituales de ocio etc. La sociedad comunista como la pensaba Marx, a mi entender, sino perfecta, si muy evolucionada y lo más justa posible. Una vez que tiene eso...¿para que quieres acaparar más, sino vas a tener tiempo para de todo disfrutar?. El tiempo que pierden los capitalistas en joder a los demás, en no perder su status de clase.No, la avariciay estupidez humana, no creo que ninguna maquina la pueda igualar.
Gracias por tu comentario que me hace recordar esta entrevista a la feminista marxista Frigga Haug
Eliminarhttp://blogdelviejotopo.blogspot.com.es/2015/10/vivir-en-cuatro-dimensiones-una-utopia.html
... yo no lo veo tan utópico.
Actualísmo el informe amigo Vigne, Twitteado y reenviado por gmail. Tremanda ironía y maldita verdad, robotizamos humanoides y mascotas y matamos a la humanidad nada más nacer. Ah, está prohibido abortar bajo pena de Galeras, pero en cuanto nacen las criaturas, que vida les espera al españolito que viene al mundo te guerde Dios. La ciencia secuestrada por el capital nazi-sionista.
ResponderEliminarSalud Lucha y Victoria.
Como quien mira una espera: https://www.youtube.com/watch?v=bP0gA59sqMs
ResponderEliminarSi los futuros robots se hacen con forma de caballo, siempre los podremos aparcar en el mismo lugar que los coches y prescindir de estos con el buen tiempo para así viajar disfrutando de las hermosas praderas terrestres, con sus bosques, ríos y montes (existen, las he visto de niño en películas).
Para aparcarlos también cabría establecer un espacio antigravitacional a X metros sobre el nivel del suelo y con un mando a distancia hacerlos bajar cuando necesitásemos de ellos. Y si eso no les pareciera bien no se olviden que también caben aparcamientos subterráneos, con plazas fijas por x millones de las antiguas pesetas o pagando por tiempo de uso (eso ya estaba inventado, pero no deja de ser un servicio).
Piensen que algún puesto de trabajo se crearía con alguna ayuda estatal para el/los magnánimos empresarios que nos proporcionasen algunos meses de trabajo en los nuevos parkings, primero a unos afortunados y después a otros y a otros y a otros y a otros... Grandes creadores, pues, de puestos de trabajo, para el proletariado: dado que el benefactor sistema capitalista piensa en el pleno empleo y lo fomenta con ayudas a quienes nos lo proporcionan (dicho sea por si no lo sabían).
España es una, grande y libre y que no se preocupen los mamones, ya que hay teta para todos. ¿Los no mamones?; pues ya se sabe: flaquitos, flaquitos...