En un món de droides.
... querría traer aquí cinco puntos para los que, ciertamente, hay que preparar nuestros sistemas jurídicos e incluso educativos:
- La responsabilidad en un mundo de droides: ¿quién será responsable de los accidentes que provoquen ocasionalmente los droides que tomen decisiones? Pensemos en automóviles autónomos, en sistemas de decisión económica, armas con decisión automática, etc.
- La sensibilidad al estado personal. Uno de los casos que discutió la especialista en derecho informático fue el de los programas que toman automáticamente decisiones económicas. Por ejemplo, la concesión de préstamos en compañías telefónicas, que ya son automáticos. Mientras que el programa trabaja con perfiles del pasado, nuestra vida cambia continuamente. Programas de previsión sanitaria, de seguros, de perfiles policiales, ... No son pocos los malentendidos que ocurren en las fronteras cuando alguien es mal-catalogado como terrorista potencial por un sistema automatizado.
- La privacidad de los datos: si nuestros teléfonos y datos personales son ahora ya vendidos a diferentes compañías, podemos imaginar lo que ocurrirá cuando las grandes bases almacenen nuestros datos de salud, nuestros currículos (dentro de muy poco no se necesitará presentar un currículo, el sistema lo generará explorando la red en pocos segundos), nuestros perfiles bancarios, etcétera. No es sólo un problema de si saben o no lo que hacemos, que lo saben, claro, sino de lo que hacen con ese conocimiento.
- Nuestras identidades personales cuando los lazos emocionales con droides sean tan fuertes o mayores que con animales o personas. Posiblemente los robots de compañía terminen haciendo más compañía a gente mayor que familiares que se acercan a ellos con un aburrido sentido de la obligación (por no hablar del nuevo gran negocio en perspectiva, los robots de compañía sexual).
- Los posibles derechos de los droides. No es una cuestión banal. Los programas de IA son objetos que hacen proliferar el conocimiento y la inteligencia en nuestro entorno y que ya tienen muchas de las propiedades de los seres vivos. Ahora que comenzamos a tener cierta sensibilidad hacia las formas de vida y el respeto por ellas, y la inflicción de daños innecesarios, es un buen momento para pensar en cómo convivir con nuevas formas de inteligencia, la mayoría de ellas muy alejadas de las formas humanas, pero con niveles nuevos de autonomía. En un nuevo pensamiento ecológico, no bastará la solidaridad con las formas biológicas de vida, también habrá que incluir las no biológicas.
Fernando Broncano, Un droide en el jardín, El laberinto de la identidad 17/12/2017
Comentaris