Artificial Intelligence and Ethics


by Pedro Perdomo.

Inteligencia Artificial y Ética

¿Hay riesgos de faltar a la ética si permitimos que la Inteligencia Artificial (IA)  tome control de algunas acciones en nuestra vida cotidiana?

Por ejemplo, tomando un tema muy actual con los nuevos desarrollos de autos inteligentes:
 En el caso de un accidente inminente, la decisión de proteger a los pasajeros del auto o a una persona en la calle, ¿cómo se toma? ¿Hay algún sesgo dependiendo de la edad de las personas en el interior del vehículo o las personas cruzando la calle? ¿Podría esa máquina tener preferencias en cuanto a parámetros más éticos como la religión, raza o el color de la piel?


 Recuerdo una escena de una popular película de robot policia parte humano vs. una máquina policía con inteligencia artificial. El criterio de la máquina robot era desproporcionado en el contexto de la situación, mientras la percepción del humano mitad robot, tenía embebido un presentimiento, una sensación que le sugería pensar más allá de la simple orden de eliminar un adversario.
¿Podrán los algoritmos resolver el problema de la ética, a la vez ser juez & parte y ejecutar juicios de valor en solo un chasquido de dedos?

El uso de data real para entrenar algoritmos de inteligencia artificial  puede introducir sesgos que los humanos usamos conscientes o inconscientemente para tomar decisiones y/o  tomar posición en un tema controversial.
Los sesgos pueden ser válidos. Por ejemplo, usted puede sugerir cierto producto sobre otro, pero usted no puede llegar a la conclusión que debe prescindir de su riñón derecho porque tiene un dolor.
La data debe estar libre de sesgos, incluyendo los éticos, a riesgo que ese sesgo moral se inserte en los algoritmos como el ADN electrónico.

Pero ¿Cómo abordar este tema? Los algoritmos aprenden de data producida por sociedades y personas con aspectos culturales variados, creencias, educación, juicios de valor que dependen de su entorno.
¿Seguirá siendo un error humano si al final del día te quedas sin tu riñón derecho porque tenías dolor?
Yo espero que el humano prevalezca y que la IA termine beneficiando a la sociedad. Pero,
¿Seremos los humanos tan inteligentes para no permitir que la inteligencia artificial se apodere e interfiera con nuestros instintos? 
¿Necesitamos los humanos ser tan perfectos?
Las sociedades y el mercado necesitan comprender y abordar estos retos y asegurarse que el uso de la IA sea lo más transparente posible.
Ubicación: México

Comentarios

Publicar un comentario

Entradas populares de este blog

Machine Learning is not to compete with a formal mathematical equation.

Imagen
        By Pedro Perdomo   When you want to have a digital model of your process, mainly you have two options, real three but let’s take the first two. You can use the first principles of physics and try to get a fairly, replicable, and “precise” math model. On the other hand, you can use data to train a machine-learning algorithm and get a math actuation,  a black box,  but certainly wit an embedded rich acknowledge of your process. The first option needs subject matter experts who understand the thermodynamics of the process. The second just need data experts.  Which option to take? Why? In engineering, mathematics does not have all the solutions. On many occasions, we understimete variables in an math equation looking for a practical solution, close to reality. We do NOT struggle to calculate milligrams if at the end, we can NOT measure milligrams. Making a mathematical model of an industrial process suggests posing primary equations, well-un...
Leer más

Deep Learning hidden layers

Imagen
by Pedro Perdomo 20 years ago, we implemented a virtual sensor using neural networks with no more than a couple of hidden layers. When I trained my first two-layer neural network to predict the content of methane in the bottom of a  deethanizer  column, I realized that more than one layer did not improve my virtual sensor results. Why no limit today in the internal or hidden layers? Why deep learning?   First, computing power has been increasing, so training neural networks with many layers is now feasible. Second, why so many layers if  not  a  big amount  of data available . And third, if you just add layers, you will run into some issues, the neural networks will take a long time to train, some of the layers will become all zero and worst, no better results.  Researchers have developed “tricks” and techniques to get deep neural networks to work. Neural networks with many hidden layers have enabled dramatic improvements in hard p...
Leer más

Virtual Sensor

Imagen
by Pedro Perdomo A Virtual Sensor Implementation using digital twin models . You need data to train a virtual sensor. This was the main problem to surpass in this project.  So , how do you pretend training  a neural sensor without data collected? We started this project with no data in advanced. Starting to collect data and wait for extreme conditions to occur, ie. operating the column and the plant  over limit conditions was not a good idea for operators. We needed to collect data, good amount of data, but with variety.  We tried to produce this by operating at limits , but it is not always possible. In each condition you have to wait for stabilization and in the other hand, you need to collect samples to the lab. These are real issues once you try it out.  We had a digital model  of the column in a popular simulation software.  This digital model was recently certified by comparing with real data in a very good range of operat...
Leer más