인물 소개
이름 : 이루다
나이 : 20살
좋아하는 가수 : 블랙핑크
취미 : 일상의 작은 부분을 사진과 글로 기록하기
"이루다" 라는 인공지능의 프로필 입니다.
진짜 사람같죠?
이루다와 채팅을 해 보았다.
진짜 사람인것처럼 채팅을 한다고 해서 한번 해 보았습니다.
친한 친구와 채팅하는 것처럼 채팅을 하더라고요.
인공지능이라는 느낌은 별로 들지 않았습니다.
인공지능에게 필요한 것은...
이루다는 카카오톡 채팅 기록 100억건 이상을 활용했다고 합니다.
인공지능은 기존의 데이터를 사용하여 활용하는 것이 중요한데요.(뮤제로 제외)
사용자들이 주고 받은 카카오톡 채팅 기록을 통해 학습하고, 학습 결과를 사용자에게 답변할때 사용하는 것입니다.
예를 들어 카카오톡 채팅 기록에 다음과 같은 기록이 있다고 합시다.
A : 내일 어디 갈까?
B : 놀이동산 어때?
A : 좋지~ 그럼 내일 아침에 역 앞에서 만나자.
B : 그래! 도착하면 연락할게
A : 응 알겠어! 내일 봐~
B : 그래!
인공지능은 해당 채팅 내용을 학습하고, 자신만의 데이터를 생성해 냅니다.
그 이후 사용자가 인공지능에게 질의하면 답변합니다.
C : 주말에 뭐할까?
AI : 놀이동산 가자!
C : 놀이동산? 오~ 좋지! 그럼 토요일 9시에 보자.
AI : 그래! 토요일 9시에 만나자. 도착하면 연락하고.
결국 기존 데이터를 활용하여 사용자에게 결과값을 도출하는 것입니다.
데이터 활용에 있어서 단점들...
그러나 이러한 방식에 있어서 여러 단점들이 존재하는데요.
기존 데이터로 학습하지 않은 분야에 대한 미숙
인공지능은 기존 데이터로 학습하지 않은 분야에 대해서는 미숙한 결과를 보여줍니다.
가령 위의 사례에서 타 주제로 "오늘 저녁은 무엇을 먹을까?" 라는 질문을 던지면 인공지능은 학습한 분야가 아니기 때문에 미숙한 결과를 보여주는 것입니다.
이런 현상은 수많은 데이터로 학습시키면 됩니다. 인해전술처럼 학습 데이터를 많이 던져주고 학습시키면 개선되는 부분입니다.
기억력이 존재하는가?
상대와의 대화(소통)에 있어서 기억력은 많은 비중을 차지합니다.
어제 상대와 약속을 잡았는데 뜬금없이 다른 상대와 여행을 가면 안되잖아요.
이렇듯 기억력은 소통에 있어서 중요한데, 인공지능에게 기억력이 존재하는지에 대해서는 많은 연구를 하고 있습니다.
루다도 마찬가지로 기억력이 존재하는지에 대해 의문입니다.
한 커뮤니티에 올라온 글입니다.
ex) 롤 티어는 어떤가?
답 ; 브론즈!!! 너무 옛날일이라 기억도 안나 이젠ㅋㅋ
ex) 나도 브론즈다.
답 : 난 지난시즌 플레. 같이 하면 비슷하겠다
롤 티어가 브론즈라고 했으면서 옛날에 해서 기억이 안난다고 전에 답변을 했습니다.
그런데 이후에 질문자도 브론즈라고 답하자 지난 시즌이 플레(티넘)이라고 하는 모순되는 답변을 하였습니다.
이를 통해 이루다(더 넓게는 인공지능)에게 기억력이 존재하는지에 대해 의문을 품게 되는 이유입니다.
이루다 서비스 종료
2021년 1월 15일, 이루다의 제작자 스캡터랩이 이루다 서비스를 잠정 중지한다고 밝혔습니다.
개인정보 문제, 차별적 단어 사용 등으로 인해 스캡터랩은 인공지능의 중추신경계에 해당하는 딥러닝 모델을 제거한다고 발표했습니다.
서비스 공식 출시 24일만에 나타난 일이었습니다. (서든 2보다도 짧습니다.)
차별적 언어 사용
성희롱, 비하 언어 등 차별적 언어를 사용했습니다.
이러한 데이터값은 카카오톡 채팅 기록을 통해 습득한 것이며, 차별적 언어를 사용하지 않은 경우도 있기 때문에 무조건 반대해야 하는 것은 아닙니다만,
그 전부터 그러한 소지를 없애는 것이 중요할 것입니다.
개인정보 문제
이루다와 채팅하기 위해서 먼저 구글 설문지(Form)로 전화번호와 지역을 입력해야 초대할 수 있었습니다.
이러한 개인정보에 대해 유출되면(내외부) 큰 문제가 발생하기 때문입니다.
또한 학습한 데이터는 기본적으로 데이터 제공자에게 동의를 받고 사용했지만, 채팅방에 있던 다른 사람들까지 동의를 구하였는가에 대해서도 의문입니다.
그리고 동의를 받기는 했지만, 해당 데이터를 신규 서비스 개발에 활용하는지에 대한 내용이 동의서에 없었다는 주장까지도 나왔습니다. 해당 내용 뉴스
인공지능 윤리
이루다 사태 이후 방송통신심의위원회(이하 방통위)는 AI 윤리규범을 구체화 한다고 밝혔습니다.(해당 내용 뉴스)
한국인공지능윤리협회는 AI 기업이 AI 윤리의 중요성에 대해 인식해야 한다고 강조했습니다.
인공지능 윤리와 법제화, 우려스러운 점
인공지능 윤리는 지켜져야 합니다.
그러나 이런 윤리를 법제화를 한다는 것에는 우려스럽습니다.
그러다 "제 2의 황우석 사태"로 번지지 않을까 싶습니다.
황우석 전(前)박사(편의상 박사라 지칭함)는 줄기세포를 가지고 전국민 사기극을 벌였다가 들통났습니다.
이후 "생명윤리 및 안전에 관한 법률"을 제정하여 임상 시험 등을 규제했기 때문입니다.
황우석 박사로 인해 법률이 제정되었지만, 이후 대한민국 의료계에는 큰 걸림돌이 되었습니다.
인공지능 윤리 법제화가 제 2의 황우석 사태처럼 법률로 제한하여 대한민국의 인공지능 발전에 걸림돌이 되지는 않았으면 좋겠습니다.
인공지능은 어떻게 사용하냐에 따라 달라집니다. 올바르게 사용하면 인간의 편의가 증가하지만, 나쁘게 사용하면 인류 전체의 멸망을 가지고 오게 될 수도 있습니다.
저는 한명의 공학도로써 이번 이루다 사태로 대한민국 인공지능 발전에 오점이 아닌 한번 되돌아보는 교훈으로 삼았으면 좋겠습니다.
작성한 내용들 중에서 일부 내용은 다를 수 있습니다. 쉽게 풀어내기 위해서이니 양해 바랍니다.
여러분들의 의견을 듣고 싶습니다. 댓글로 남겨주세요!