[생각해보기] 인공지능의 신뢰성과 사회적 영향
인공지능의 신뢰성과 사회적 영향
인공지능은 우리 생활 속 곳곳에 활용되고 있습니다. 음성인식 내비게이션, 사진을 찍으면 무슨 상품인지 검색 해주는 스마트렌즈 서비스 등 여러 분야에서 우리 생활을 더욱 편리하게 만들어주고 있죠. 그런데 인공지능이 음성 인식, 손글씨 인식 등 단순히 편리함을 제공하는 데만 쓰이는 것은 아닙니다. 이미 우리 삶에 크고 작은 의사결정을 하는 데에도 인공지능이 사용되고 있답니다.
그런데 앞서 살펴봤듯이, 인공지능을 100% 신뢰하기는 어렵습니다. 데이터 기반 인공지능은 정확도가 100%일 수 없을 뿐만 아니라, 대부분의 데이터 기반 인공지능 모델은 판단한 결과에 관해 설명이 불가능하기 때문이죠.
따라서 인공지능의 신뢰성에 대해 고민해보는 것은 매우 중요한 일입니다. 인공지능이 우리 삶의 중요한 결정을 내리는 데에도 사용될 수도 있기 때문이죠. 즉, 인공지능이 어떻게 판단하는지가 여러분의 삶에 크게 영향을 줄 수도 있습니다. 이렇게 우리 삶에, 그리고 우리 사회에 큰 영향을 미칠 수 있는 인공지능이 100% 신뢰할 수는 없다는 사실을 우리는 어떻게 받아들여야 할까요? 어떤 자세와 어떤 마음가짐을 가지고 인공지능을 활용해야 할까요?
1-1. 인공지능이 의사결정에 활용되는 사례 및 사회적 영향
동영상을 볼 수 있는 웹페이지나 애플리케이션을 사용해본 적 있나요? 최근 동영상을 볼 수 있는 플랫폼들에서는 사용자의 취향에 맞는 영상을 추천해주는 경우가 많습니다. 이렇게 무언가를 추천할 때 많은 플랫폼에서 인공지능 모델을 사용합니다. 여러분이 그동안 어떤 동영상을 시청했는지 등의 데이터를 통해 인공지능 모델이 여러분이 좋아할 만한 다른 동영상을 추천해주는 것이죠. 그럼 여러분은 이렇게 자신의 취향에 맞게 추천해주는 동영상 중 마음에 드는 동영상을 선택하여 시청하면 됩니다. 내 취향에 맞는 동영상을 직접 검색해서 찾아보지 않아도 되니까 상당히 편리하죠.
평소에 쉽게 접해봤을 만한 이 추천 시스템도 잘 들여다보면 여러분의 의사결정에 영향을 주고 있다는 사실을 알 수 있습니다. 있는 줄도 몰랐던 동영상인데 인공지능이 추천해줘서 그 영상을 보기로 한 경험이 한 번쯤은 있을 것입니다. 즉, 인공지능이 예측한 결과가 우리가 어떤 영상을 볼지 판단하는 의사결정에 영향을 미친 것입니다.
그런데 만약 인공지능이 사용자에게 맞지 않는 동영상을 추천해주면 어떻게 하면 될까요? 인공지능이 재미있을 거라고 추천해 준 영상을 봤는데 취향에 잘 맞지 않았다고 생각해봅시다. 이런 경우에는 인공지능이 잘못된 판단을 내려도 여러분의 삶에 크게 영향을 미치지는 않습니다. 영상을 본 시간이 조금 아까운 정도겠죠. 하지만 만약 어린아이에게 너무 무서운 영화를 추천해줘서 아이가 그 영화를 보고 심리적인 충격을 받게 된다면, 이 경우에는 인공지능의 잘못된 판단이 아이의 생활에 꽤 큰 영향을 미칠 수 있습니다.
인공지능의 신뢰성과 사회적 영향
◎ 사회 각 분야에서 인공지능이 의사결정에 활용되는 방법을 조사해보고, 인공지능이 잘못된 판단을 내렸을 때 생길 수 있는 사회적 영향에 대해 생각해봅시다.
1-2. 인공지능의 신뢰성 문제를 보완하기 위한 노력
인공지능을 개발하고 사용하는 데에는 다음과 같은 사람들이 관련되어 있습니다.
인공지능의 신뢰성과 사회적 영향
인공지능의 신뢰성 문제를 보완하여 사용하기 위해서는 위와 같은 다양한 입장의 사람들의 노력이 모두 필요 합니다. 각 입장에서 할 수 있는 노력에는 어떤 것이 있을지 브레인 라이팅(Brain Writing) 활동을 통해 생각해 봅시다. (준비물: 포스트잇, 모둠별 생각 공유판)
1) 인공지능 개발하는 사람이 할 수 있는 노력
◆ 인공지능의 신뢰성 문제를 보완하기 위해 [인공지능을 개발하는 사람]이 할 수 있는 노력을 포스트잇에 적어봅시다.
◆ 모둠 친구들에게 자신이 생각한 의견을 말하며 생각 공유판에 자신의 포스트잇을 붙입니다. 이때, 이미 발표한 친구의 생각과 자신의 의견이 비슷하다면 친구의 포스트잇 밑에 자신의 포스트잇을 이어 붙입니다.
◆ 우리 모둠에서 생각한 의견을 모아서 정리해봅시다.
2) 인공지능 도입을 결정하거나 서비스를 제공하는 사람이 할 수 있는 노력
◆ 인공지능의 신뢰성 문제를 보완하기 위해 [인공지능 도입을 결정하거나 서비스를 제공하는 사람]이 할 수 있는 노력을 포스트잇에 적어봅시다.
◆ 모둠 친구들에게 자신이 생각한 의견을 말하며 생각 공유판에 자신의 포스트잇을 붙입니다. 이때, 이미 발표한 친구의 생각과 자신의 의견이 비슷하다면 친구의 포스트잇 밑에 자신의 포스트잇을 이어 붙입니다.
◆ 우리 모둠에서 생각한 의견을 모아서 정리해봅시다.
3) 인공지능 서비스를 사용하는 사람이 할 수 있는 노력
◆ 인공지능의 신뢰성 문제를 보완하기 위해 [인공지능 서비스를 사용하는 사람]이 할 수 있는 노력을 포스트잇에 적어봅시다.
◆ 모둠 친구들에게 자신이 생각한 의견을 말하며 생각 공유판에 자신의 포스트잇을 붙입니다. 이때, 이미 발표한 친구의 생각과 자신의 의견이 비슷하다면 친구의 포스트잇 밑에 자신의 포스트잇을 이어 붙입니다.
◆ 우리 모둠에서 생각한 의견을 모아서 정리해봅시다.
인공지능 서비스 관련 기업들은 기업 자체적인 인공지능 윤리 준칙을 만들어 윤리적인 인공지능 서비스를 개발 및 제공하기 위한 기준으로 삼고, 이를 실천하고자 노력합니다.
네이버에서 2021년에 발표한 ‘네이버 인공지능 윤리 준칙’에는 인공지능이 우리의 삶을 편리하게 만들어줄 수 있는 기술이지만, 100% 신뢰할 수는 없다는 점을 인식하고 있다고 밝히고 있습니다. 이렇게 기업 차원에서 인공지능의 신뢰성을 고려하여 인공지능을 개발하고 제공하는 일은 사람을 위한 인공지능을 개발하는 데 매우 중요한 일이라고 할 수 있습니다.
1-1 인공지능이 의사결정에 활용되는 사례 및 사회적 영향
신뢰성을 고려하여 인공지능을 잘 활용하기 위한 다짐을 해봅시다.
나 ( ) 은/는______________________________________________________________ 하며 인공지능을 활용하겠습니다.
주제 마무리
학습한 내용을 정리해봅시다. 이번 주제에서 배운 내용을 생각하며 빈칸을 채워봅시다.
1. 인공지능이 데이터를 분류하여 예측한 결과 중 정답을 맞힌 비율을 분류 인공지능 모델의 ( 정확도 )라고 한다.
2. 기계학습 모델을 훈련시킬 때는 학습 데이터를 사용하고, 모델의 성능을 평가할 때는 ( 테스트 데이터 )를 사용한다.
3. 인공지능을 개발하고 사용하는 데에는 인공지능을 ( 개발 )하는 사람, 인공지능 도입을 결정하거나 서비스를 제공하는 사람, 그리고 인공지능 서비스를 ( 사용 )하는 사람 등이 관련되어 있다.
★ 스스로 평가해볼까요?
이번 주제에서 배운 내용을 생각하며, 스스로 평가해봅시다.
데이터 기반 인공지능의 신뢰성에 대해 알고 있다. | ☆ ☆ ☆ ☆ ☆ |
학습 데이터와 테스트 데이터를 이용하여 기계학습 모델을 훈련하고, 모델의 정확도를 확인 및 향상시킬 수 있다. | ☆ ☆ ☆ ☆ ☆ |
인공지능의 신뢰성에 따른 사회적 영향에 대해 이야기할 수 있다. | ☆ ☆ ☆ ☆ ☆ |