Primera ley: no elegirás a quién atropellas

by Miguel 102 views0

Para cualquiera con un mínimo conocimiento de ciencia ficción, las Tres Leyes de la robótica son fundamentales. Para una sociedad en la que las decisiones tomadas por software con más o menos inteligencia artificial aumentan a toda velocidad, las leyes de Asimov necesitan su equivalente.

Una de las fronteras más interesantes en las que trabajan Apple (con lo que queda del proyecto Titan) y casi todos los demás son los vehículos autónomos. Pero conseguir que un coche reconozca su entorno y reaccione correctamente no es sólo una cuestión técnica. Hay una serie de criterios que tienen que ser definidos por la ley. Como, por ejemplo, a quién atropellar en caso de colisión inevitable. O quién es el responsable de un accidente en caso de conducción automática.

El primer país europeo en el que esa definición está tomando cuerpo es Alemania. Un comité de expertos organizado por el ministerio de Transporte y Comunicaciones lleva tiempo redactando unas “referencias éticas” y legales. Estos criterios van a marcar el uso y el desarrollo de los vehículos autónomos, independientemente de si el software que los implementa es de Tesla, de Apple, de Google o de Siemens.

Las conclusiones del comité fueron presentadas la semana pasada y serán implementadas en la legislación alemana a corto plazo, desde donde es de esperar que influyan en los criterios que se acuerden para toda la Unión Europea. Especialmente porque tienen bastante sentido.

El criterio que más ha llamado la atención se refiere a la elección en caso de colisión inevitable. El vehículo tendrá que optar por la opción que parezca llevar al menor número de víctimas humanas. No podrá tomar en cuenta los daños materiales causados (animales incluídos) y tampoco podrá nunca elegir a quién atropella en función de edad, sexo, condición física “o cualquier otro factor observable”. Todas las vidas humanas se consideran iguales.

Entre los menos espectaculares pero de aplicación (esperemos) más frecuente están la necesidad de que los vehículos lleven un conductor con carnet en todo momento, la obligación de contar con una “caja negra” que permita establecer la causa de cualquier accidente, la responsabilidad del conductor salvo que se trate de una avería del sistema, y la propiedad del conductor sobre los datos generados por su coche.

Estos criterios despejan la mayor parte de las incógnitas éticas y de responsabilidad que hay que resolver para que dentro de poco puedas sentarte en tu coche y decir sencillamente: “Siri, llévame al trabajo”.

Documento original del Comité de Etica.

Imagen sin atribución conocida.

Leave a Reply

Your email address will not be published.

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>