인공지능Artificial Intelligence, AI을 연구하는 Andrew Ng이라는 과학자는 인공지능을 새로운 전기new electricity라고 일컬은 바 있습니다. 전기가 인간에게 미친 영향만큼 인공지능이 인간에게 미치는 영향이 클 것이라고 이야기했습니다. 한국에서도 인공지능을 이용한 교육이라는 마을 버스 광고가 보이고, 인공지능 면접을 대비하는 면접 학원이 생겼습니다. 학계에서는 자율주행자동차의 상용화를 위한 법 제도 개선부터 '인공지능과의 사랑이 가능한가’ 등 다양한 분야에서 다양한 주제로 인공지능에 대해서 논의가 진행 중입니다.
인공지능의 조언에 대한 사람의 반응에 대한 심리학 연구 두 편을 소개하고자 합니다. 인간은 인공지능과 알고리즘algorithm이 내리는 조언에 대해서 어떤 반응을 보일까요? 인간은 알고리즘이 내리는 조언을 혐오한다는 연구Dietvorst et al., 2015와 인간은 알고리즘이 내리는 조언을 고마워한다는 다소 상반되는 연구Logg et al., 2019가 있습니다.
알고리즘에 야박한 사람들
2015년 Diestvorst와 동료들은 사람들은 알고리즘의 조언보다 사람들의 조언을 더 선호한다는 연구 결과를 발표하면서 '알고리즘 혐오'Algorithm aversion이라는 용어를 선보였습니다. 해당 연구에서는 날씨 예보, 학업 수행 등 몇 가지 영역에서 인간의 예측보다 더 뛰어난 알고리즘의 예측을 보여줍니다. 참가자들은 알고리즘의 예측 수준이 인간보다 더 뛰어난 것을 확인하지만, 알고리즘이 작은 실수를 하는 것을 목격한 후에는 알고리즘의 조언을 싫어하게 됩니다. 다른 사람은 알고리즘보다 더 큰 실수를 해도 알고리즘의 작은 실수보다도 더 야박하게 알고리즘의 조언을 싫어했습니다. 이를 연구자들은 ‘알고리즘 혐오’ 라고 이름 붙였습니다.
알고리즘을 신뢰하는 사람들
2019년 Logg와 동료들은 사람들은 알고리즘이 주는 조언을 혐오하기 보다는 고마워하고 선호한다고 설명합니다. 수학적 예측, 노래의 인기도, 연인 매칭 등의 과제에서 사람들은 타인의 예측과 충고보다 알고리즘의 예측과 조언을 더 신뢰한다는 연구 결과를 보여줍니다. 2015년 Diestvorst와 동료들의 연구도 알고리즘의 조언 자체가 싫은 것이 아니라 ‘알고리즘이 실수한 것을 목격한 후’ 알고리즘의 조언을 싫어한다는 것에 초점을 두고, 알고 보면 사람들은 알고리즘의 제공하는 조언을 선호한다는 결과를 보여줍니다. 이를 ‘알고리즘 감사'Algorithm appreciation이라고 이름 붙였습니다.
까탈스러운 연구자들
흥미로운 점은 의사결정을 연구하는 연구자 집단과 연구자가 아닌 집단을 비교했을 때 연구자 집단은 알고리즘의 판단과 조언에 대해서 ‘덜’ 감사하는 것으로 나타났습니다. 또, 예측과 의사결정을 주로 하는 예측 전문가 집단의 경우 알고리즘의 조언을 수용하는 비율이 그렇지 않은 사람에 비해서 낮은 것으로 나타났습니다.
즉, 사람들은 타인의 조언보다는 알고리즘의 조언을 수용하고 고마워하지만, 전문가들은 덜 고마워하고 덜 수용하는 것으로 나타났습니다. 알고리즘의 결정과 예측이 인간보다 정확할 수 있음에도 말입니다. 알고리즘의 실수에 야박하게 대하기는 하지만 사람들은 일반적으로 타인이 내린 예측과 조언보다는 알고리즘의 조언과 예측을 선호하는 것으로 나타났습니다. 연구자들은 전문가들이 알고리즘의 가치를 수용할 수 있는 태도가 필요하다고 강조하고 있습니다.
IBM 인사담당자는 AI
며칠 전 다녀온 인공지능 세미나에서 IBM의 인사담당자는 IBM은 채용의 대부분의 과정을 인공지능이 진행하고, 보수 역시 인공지능이 대부분 결정한다고 설명했습니다. Watson Career Counselor 라고 이름을 붙인 인공지능이 조직 구성원의 경력에 대한 상담과 조언을 하고 있다고 설명했습니다. 사회와 조직에 이미 생각보다 더 빨리 자리잡고 있는 인공지능과 알고리즘. 글을 읽으시는 분들은 인공지능과 알고리즘이 내리는 조언에 대해 어떤 태도를 가지고 어느 정도 수용 가능할지 궁금합니다. 혹시 내가 잘 안다고 믿는 특정 영역에 대해서 알고리즘이 조언을 내린다면 그것도 고마워할 수 있을까요?
알고리즘의 조언을 고마워한다는 연구 결과는 사회와 조직과 개인의 오류를 줄일 수 있다는 점에서는 좋은 일일지 모릅니다. 효율성의 측면에서는 다행스러운 일입니다. 하지만, 삶의 재미 중에 하나는 확률이 적은 일에 도전하고 성취하고 또 실패하는(?) 것일 텐데, 빅데이터에 기반한 알고리즘마저 추천하지 않는 선택을 하는 것이 점점 더 어려워 질지도 모르겠습니다. 사회의 모든 문제에는 심리학적 요소가 숨어있다고 생각하는데, 앞으로도 인공지능과 관련된 심리학의 다양하고 재미있는 연구들을 기대해봅니다.
두 연구에서 모두 알고리즘을 '증거에 기반한evidence-based 예측 공식 혹은 규칙'이라고 정의하였다. 알고리즘을 날씨 예측 등에 쓰일 수 있는 통계 모델, 의사결정 규칙 및 수학적 절차를 포함하는 개념이라고 설명하고 있다.
<참고문헌>
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144, 114-126.
- Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Process, 151, 90-103.