인공지능 윤리 > Chapter 2. 인공지능의 편향성

[실습하기(1)] 고인돌과 바위를 구분하는 인공지능 만들기

  고인돌과 바위 이미지를 분류하는 인공지능 모델 학습시키기

지금부터 엔트리의 이미지 분류 인공지능 모델 학습 기능을 사용하여 고인돌과 바위를 자동으로 분류해주는 인공지능 프로그램을 만들어 보겠습니다.

 

[STEP 1] 엔트리 인공지능 모델 학습하고 테스트 해보기

 

1. 엔트리 [템플릿 주소]에 접속합니다.

 

2. 먼저 인공지능에서 인공지능 모델 학습하기를 클릭합니다.

 

3. 분류: 이미지를 선택하고 학습하기를 클릭하면 이미지를 분류하는 데이터 기반 인공지능 모델을 학습시킬 수 있습니다.

 

4. 모델의 이름을 바위와 고인돌 분류 모델이라고 정해줍니다.

 

5. 클래스는 총 2개로 바위와, 고인돌로 정해주고 주어진 학습데이터를 업로드합니다. 그리고 모델 학습하기 버튼을 클릭하여 데이터 기반 인공지능 모델을 학습시킵니다.

 

6. 테스트 데이터를 이용하여 우리가 학습시킨 인공지능 모델이 잘 작동하는지 확인해 보세요.


  ◎ 우리가 학습 시킨 인공지능 모델이 다음의 테스트 데이터를 어떻게 분류하는지 확인해보고 분류 결과를 적어보세요.



◆ 우리가 학습 시킨 데이터 기반 인공지능은 고인돌과 바위를 제대로 분류하고 있나요?

◆ 왜 이러한 결과가 나왔다고 생각하나요?

◆ 이러한 문제를 어떻게 해소할 수 있을까요?

고인돌은 우리가 흔히 알고 있는 탁자식 고인돌 이외에도 바둑판식 고인돌, 개석식 고인돌 등 종류가 다양합니 다. 3번 테스트 데이터와 4번 테스트 데이터는 바둑판식 고인돌입니다. 하지만 우리의 인공지능 모델은 학습 데이터에 다양한 고인돌을 포함하지 않고 탁자식 고인돌만 이용했기 때문에, 바둑판식 고인돌을 일반 바위로 분류하는 오류를 보여주고 있습니다.

이렇게 데이터가 다양한 집단을 모두 포함하지 않고 특정 집단에만 집중되어 있는 경우, 사회적인 문제까지 될 수 있습니다. 예를 들어, 얼굴을 인식하는 인공지능이 흑인을 사람이 아닌 고릴라로 인식하는 윤리적인 문제가 발생한 적이 있습니다. 이는 인공지능을 학습시킬 때 ‘사람’ 레이블의 학습 데이터에서 흑인 얼굴 이미지 학습 데이터가 충분하지 않았기 때문입니다. 마치 고인돌의 종류를 모두 고려하지 않았던 우리의 인공지능 모델처럼 다양한 인종을 고려하지 않았기 때문에 이러한 윤리적인 문제가 발생한 것입니다. 따라서 데이터 기반 인공 지능을 학습 시킬 때는 다양한 종류의 학습 데이터가 충분히 반영되었는지 확인하여 데이터에 편향성이 있는지 점검하는 것이 중요합니다.


  ◎ 인터넷에서 여러 가지 모양의 고인돌 이미지를 검색하여 데이터 기반 인공지능 모델을 다시 학습시켜 보세요.
  ◎ 테스트 데이터를 이용하여 잘 분류해내는지 확인해보세요.

 

  자동으로 고인돌과 바위를 분류해주는 프로그램 만들기

이제 우리가 만든 인공지능 모델을 이용하여 자동으로 바위와 고인돌을 분류해주는 인공지능프로그램을 만들어보도록 하겠습니다.

 

[STEP 2] 학습시켜놓은 인공지능 모델을 이용하여 이미지 분류를 시작하기

1. 시작하기 버튼을 클릭하면 프로그램이 시작될 수 있도록 블록을 준비해주세요.



2. 인식을 시작한다는 것을 표시하기 위하여 ‘인식을 시작합니다.’ 라고 말하는 블록을 조립합니다.

3. 이제 학습한 모델로 분류하기 블록을 붙여주어 우리가 학습시켜놓은 데이터 기반 인공지능 모델이 이미지 분류를 할 수 있도록 합니다.



4. 만일~ 아니면 블록을 준비하고 조건 부분에 ‘분류 결과가 고인돌인가?’를 넣어주어 고인돌로 분류하는 경우 동작할 수 있도록 합니다.


5. 우리가 학습시킨 데이터 기반 인공지능 모델이 새로운 이미지를 고인돌로 분류한 경우 오브젝트의 모양을 변경하고 ‘소중한 문화재 고인돌입니다.’라고 말할 수 있도록 다음과 같이 블록을 만들어 주세요.


6. 같은 방법으로 데이터 기반 인공지능 모델이 고인돌이라고 분류하지 않는 경우 오브젝트의 모양을 바꾸며, ‘이것은 바위입니다.’라고 말할 수 있도록 블록을 만들어 주세요.


7. 이렇게 만든 블록들을 다음과 같이 조립하여 프로그램을 완성합니다.


8. 프로그램이 잘 작동하는지 확인해보세요.