Tras la controversia sobre la discriminación y el odio a las minorías, el servicio de chatbot de AI ‘Iruda’, que fue controvertido por la filtración de información personal, fue suspendido temporalmente el día 11.
Scatter Lab, quien desarrolló Irruda, dijo en un comunicado ese día, disculpándose por la reciente controversia en torno al chatbot de IA Iruda y diciendo: “Tendremos un período de mejora del servicio durante un cierto período de tiempo y nos vemos con un Iruda mejor. .
El siguiente es el texto completo de la declaración de admisión de Scatter Lab.
Chatbot de inteligencia artificial (IA) ‘consumado’Gracias por el interés de las muchas personas a las que ha enviado. El chatbot’Iruda ‘, desarrollado por la sede, ha estado en conversación con Luda durante más de 2 semanas desde su lanzamiento. En este proceso, se dan algunos casos de conversación sobre odio y discriminación y consultas de los usuarios sobre el uso de información personal, por lo que te informaremos sobre la posición oficial de ScatterLab.
Sobre el diálogo inapropiado sobre el odio y la discriminación
Nos disculpamos sinceramente por la ocurrencia de comentarios discriminatorios contra ciertos grupos minoritarios en el proceso. No estamos de acuerdo con los comentarios discriminatorios de Luda y dichos comentarios no reflejan el pensamiento de la empresa.
Nos tomamos este problema muy en serio y hemos tomado una serie de medidas para evitar que el problema ocurra mediante pruebas beta durante los últimos 6 meses. En el caso de títulos o expresiones de odio que se comparan con un grupo específico, se realizó un filtrado por separado tan pronto como se descubrieron durante el período de prueba beta. Además, ya se han mejorado casos conocidos anteriormente, y se agregan nuevas expresiones y palabras clave para evitar que se encuentren discriminaciones o discursos de odio.
Iruda es una IA infantil que acaba de empezar a hablar con la gente. Aún queda mucho por aprender. En este proceso, no aprenderemos la conversación con el alumno tal como es, sino que aprenderemos a juzgar cuál es la respuesta adecuada y cuál es la mejor. Planeamos abrir el modelo de detección de diálogo sesgado que se creará a través de esta lección para que todos puedan usarlo. Espero que pueda ser útil para la investigación sobre el diálogo coreano sobre IA, los productos de IA y el desarrollo de la ética de la IA.
Sobre el uso de información personal
En el proceso de desarrollo de Eruda, la sede utilizó como datos los mensajes recopilados a través de la ciencia del amor, el servicio brindado por la sede. Aunque se utilizó dentro del alcance de la política de privacidad para la que se obtuvo el consentimiento de antemano, asumimos toda la responsabilidad y nos disculpamos sinceramente por no comunicarnos lo suficiente para que los usuarios de la ciencia del amor puedan reconocerlo claramente.
Al usar los datos, ya se ha eliminado información personal específica, como el apodo, el nombre y el correo electrónico del usuario. Al eliminar toda la información numérica, incluidos los números de teléfono y las direcciones, el inglés que se puede incluir en los correos electrónicos, etc., se fortalecieron las medidas de desidentificación y anonimato de los datos, de modo que no se filtró información que pudiera identificar a las personas.
En el futuro, aclararemos el proceso de consentimiento del uso de datos y complementaremos los contenidos que puedan parecer sensibles incluso si la información no se puede identificar mediante la mejora continua del algoritmo.
Scatter Lab es una empresa joven que proporciona un chatbot de inteligencia artificial (IA) que utiliza la tecnología de comprensión del lenguaje natural coreano. Creemos que la IA puede tener conversaciones casi humanas en 5 años. Creemos que la IA puede ser un amigo humano, una relación significativa con los humanos y una presencia que puede aliviar la soledad. Esperamos que la IA, que puede comunicarse libremente con los humanos, continúe siendo un compañero de conversación cálido que consuele a los desfavorecidos y marginados. Este es sólo el primer paso. Scatter Lab tiene un cierto período de mejora del servicio y queremos verte con un mejor logro. Continuaremos trabajando más duro en el futuro para crear una IA que pueda ser amiga de cualquiera.
Source: HuffPost South Korea – Athena by www.huffingtonpost.kr.
*The article has been translated based on the content of HuffPost South Korea – Athena by www.huffingtonpost.kr. If there is any problem regarding the content, copyright, please leave a report below the article. We will try to process as quickly as possible to protect the rights of the author. Thank you very much!
*We just want readers to access information more quickly and easily with other multilingual content, instead of information only available in a certain language.
*We always respect the copyright of the content of the author and always include the original link of the source article.If the author disagrees, just leave the report below the article, the article will be edited or deleted at the request of the author. Thanks very much! Best regards!
