Ver la Versión Completa : Consiguen que la IA aprenda la ética humana
:apunta: Consiguen que la IA aprenda la ética humana (http://www.portalcienciayficcion.com/ciencia/cibern%C3%A9tica/inteligencia-artificial/consiguen-que-la-ia-aprenda-la-%C3%A9tica-humana)
El rimbombante título (que no me he inventado, sino que es como lo titulan los medios) esconde en realidad una sencillez elemental muy fácil de entender: Las máquinas deben saber distinguir entre el bien y el mal si queremos que se comporten adecuadamente conforme a nuestras normas sociales.
Ahora, unos investigadores alemanes han enseñado a una Inteligencia Artificial para que siga una línea de conducta ética desde el punto de vista humano. Puede extraer un razonamiento moral sobre la conducta "correcta" e "incorrecta" a partir de un texto escrito.
El sistema de inteligencia artificial desarrolló una satisfactoria brújula moral similar a la humana.
Os lo cuento aquí:
<iframe width="640" height="360" src="https://www.youtube.com/embed/TPlkYgIOk_M" frameborder="0" allow="accelerometer; autoplay; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>
Tnt1987
12-Mar-2019, 09:58
El problema está en que muchas veces lo que es correcto o incorrecto depende mucho de la cultura de el individuo en concreto y de la educación, para una persona en un determinado sitio de el planeta una cosa puede ser totalmente correcta y para otra ser una falta de educación completa, entonces en este punto nos hace plantearnos muchas preguntas, supongo que luego entraría en juego el programador de esa IA
Zerg Rush
12-Mar-2019, 10:37
Evidentemente hay poca cosas tan relativas que el concepto del bien y del mal, más que en u aspectos más básicos. Al fi para un robot esto se va a reducir a los ya bastante antiguo 4 leyes de Asimov (si, 4, no 3 como se afirma siempre falsamente)
... (si, 4, no 3 como se afirma siempre falsamente)
¿Te das cuenta que diciendo esto estas aguando algo?:secreto:
No sé si Victor lo dice en su video, pero hace unos años conectaron una I.A experimental a la Red para que la gente, culaquier uno, pueda "discutir" con ella para que aprenda, y la I.A. se puso... racista. :apunta: Quizas porque la mayoria de la gente que se conecto a ella era racista. Fue como un niño que repetia lo que oia los padres decir a casa. :alegre2:
¿Te das cuenta que diciendo esto estas aguando algo?:secreto:
No sé si Victor lo dice en su video, pero hace unos años conectaron una I.A experimental a la Red para que la gente, culaquier uno, pueda "discutir" con ella para que aprenda, y la I.A. se puso... racista. :apunta: Quizas porque la mayoria de la gente que se conecto a ella era racista. Fue como un niño que repetia lo que oia los padres decir a casa. :alegre2:
Hablé de eso en otros vídeos de Youtube. Era una IA llamada Tay que solo duró 24 horas porque unos usuarios boicotearon su buen funcionamiento enseñándole malas prácticas.
Tnt1987
12-Mar-2019, 23:15
Hablé de eso en otros vídeos de Youtube. Era una IA llamada Tay que solo duró 24 horas porque unos usuarios boicotearon su buen funcionamiento enseñándole malas prácticas.
A eso me refería en mi anterior comentario, luego depende de quien "eduque" a la IA esta actuaría de una forma u otra, la verdad que es un campo apasionante este..
Zerg Rush
13-Mar-2019, 12:54
¿Te das cuenta que diciendo esto estas aguando algo?:secreto:
Si, lo sé, pero a cualquier fan de Asimov tiene que molestar que siempre se habla de los tres leyes robóticas.
Bueno, al tema. Es cierto que la IA va avanzando, pero afirmar que hasta una inteligencia real estamos todavía a años luz y más que comprende lo que es la ética.
Que existen bots que permiten llevar una conversación no muestra más que se están perfeccionando a los chatbots (hasta hay sitios donde se puede crear uno propio, p.ej. con Rebot.me, Pandorabots, Chatfuel, etc.) con más frases y respuestas a palabras claves en una red "neuronal" algo más compleja, aunque no llega en realidad a la de una cucaracha.
De una base de datos interactiva hasta una comprensión real hay mucho camino por recorrer todavía.
Respecto a los coches autónomos e inutil de hablar de quien llevarse por delante en un cso de accidente. Las muertes en un accidente son inevitables, independiente que sean ancianos o niños y querer evitar que un coche autónomo toma estas decisiones es algo falaz, como dijo un científico implicado en el proyecto. Tomando en consideración que un coche autónomo tiene mejores reacciones que cualquier conductor y se atiende a las exigencias del tráfico, sabiendo en cualquier momento por donde se encuentran los demás coches, como es actualmente el cao, se reduce por definición drásticamente la cantidad de accidentes y semejantes cuestiones morales carecen de valor. Basta con que conduce mejor que un humano.
nekoland
13-Mar-2019, 23:16
No quería entrar en ningún debate, pero viendo la mierda de mundo en el que vivimos ¿Qué mierda de ética humana pueden aprender las máquinas?
Joder... si al menos fuéramos un ejemplo a seguir... Conque no se revelen y no hagan daño a seres humanos... ya con eso y un bizcocho... :Oo: