편향된 인지를 가진 사용자가 편향된 알고리즘 결과와 상호작용하는 과정에서 나타나는 전체 세션 검색 행태와 태도 변화

Core Concepts

사용자의 인지적 편향과 검색 시스템의 알고리즘적 편향이 복합적으로 작용하여 사용자의 검색 행태와 태도 변화에 영향을 미친다.

Abstract

이 연구는 논란의 여지가 있는 주제에 대한 3회의 검색 세션 실험을 통해 편향된 사용자와 편향된 검색 시스템의 상호작용을 분석하였다.
주요 발견사항은 다음과 같다:

대부분의 태도 변화는 첫 번째 검색 쿼리에서 발생한다.
확증 편향과 검색 결과 제시 방식은 현재 쿼리의 검색 행태와 이후 쿼리에서의 클릭 결과에 대한 인지된 친숙도에 영향을 미친다. 특히 상대적으로 개방성이 낮은 사용자들은 편향된 쿼리 순서에 더 큰 영향을 받는다.
첫 번째 쿼리에서의 상호작용과 전체 세션에 걸친 체류 시간은 사용자의 태도 변화와 다양한 형태로 연관되어 있다.

이 연구는 기존의 시뮬레이션 기반 평가 방식을 넘어서, 사용자 특성과 편향 순서를 고려한 사용자-정보 상호작용의 복잡한 양상을 보여준다. 이는 편향 인식 사용자 모델, 인간 중심 편향 완화 기법, 사회적 책임감 있는 지능형 정보 검색 시스템 설계에 시사점을 제공한다.

Stats

첫 번째 쿼리에서 대부분의 태도 변화가 발생한다.
상대적으로 개방성이 낮은 사용자들은 편향된 쿼리 순서에 더 큰 영향을 받는다.
첫 번째 쿼리에서의 상호작용과 전체 세션에 걸친 체류 시간은 사용자의 태도 변화와 연관되어 있다.

Quotes

"사용자의 인지적 편향과 검색 시스템의 알고리즘적 편향이 복합적으로 작용하여 사용자의 검색 행태와 태도 변화에 영향을 미친다."
"대부분의 태도 변화는 첫 번째 검색 쿼리에서 발생한다."
"상대적으로 개방성이 낮은 사용자들은 편향된 쿼리 순서에 더 큰 영향을 받는다."

Key Insights Distilled From

Cognitively Biased Users Interacting with Algorithmically Biased Results in Whole-Session Search on Controversial Topics

by Ben Wang,Jiq... at arxiv.org 03-27-2024

https://arxiv.org/pdf/2403.17286.pdf

Deeper Inquiries

사용자의 인지적 편향과 검색 시스템의 알고리즘적 편향이 복합적으로 작용하는 과정에서 나타나는 다른 양상은 무엇일까?

복합적으로 작용하는 사용자의 인지적 편향과 검색 시스템의 알고리즘적 편향은 다양한 양상을 보일 수 있습니다. 첫째, 사용자의 초기 태도나 성향에 따라 검색 결과에 대한 반응이 달라질 수 있습니다. 강한 성향을 가진 사용자는 특정 의견을 더 강하게 지지하거나 거부할 가능성이 높을 수 있습니다. 둘째, 검색 결과의 표현 방식이 사용자의 선택 및 행동에 영향을 미칠 수 있습니다. 예를 들어, 특정 의견을 강조하는 결과가 상위 랭크에 표시될 경우 해당 의견에 더 많은 클릭이 발생할 수 있습니다. 셋째, 검색 세션의 진행에 따라 사용자의 태도 변화가 나타날 수 있습니다. 초기 검색 결과에 노출된 사용자는 후속 검색에서 해당 의견에 더 익숙해지거나 반대 의견에 더 개방적일 수 있습니다. 이러한 다양한 양상은 사용자의 특성, 검색 결과의 표현, 그리고 검색 세션의 진행에 따라 달라질 수 있습니다.

사용자의 개방성 수준 외에 다른 어떤 특성들이 편향된 검색 결과에 대한 반응에 영향을 미칠 수 있을까?

편향된 검색 결과에 대한 반응에는 사용자의 성향, 지식 수준, 이전 경험 등 다양한 특성이 영향을 미칠 수 있습니다. 첫째, 사용자의 초기 태도나 성향은 편향된 결과에 대한 반응을 크게 좌우할 수 있습니다. 강한 성향을 가진 사용자는 해당 의견을 더 강하게 지지하거나 거부할 가능성이 높을 수 있습니다. 둘째, 사용자의 지식 수준은 새로운 정보를 받아들이는 능력과 태도 변화에 영향을 줄 수 있습니다. 높은 지식 수준을 가진 사용자는 다양한 관점을 이해하고 새로운 정보를 비판적으로 검토할 수 있습니다. 셋째, 사용자의 개방성 수준은 다양한 의견에 대한 태도 변화에 영향을 줄 수 있습니다. 더 개방적인 사용자는 다양한 의견을 받아들이고 새로운 정보에 더 적극적으로 반응할 수 있습니다. 이외에도 사용자의 성별, 연령, 경험 등 다양한 특성이 편향된 검색 결과에 대한 반응에 영향을 미칠 수 있습니다.

사용자의 태도 변화와 검색 행태 간의 관계를 더 깊이 있게 이해하기 위해서는 어떤 추가적인 연구가 필요할까?

더 깊이 있는 이해를 위해서는 추가적인 연구가 필요합니다. 첫째, 다양한 사용자 특성과 검색 행태가 어떻게 서로 상호작용하며 태도 변화에 영향을 미치는지 더 자세히 조사해야 합니다. 사용자의 성향, 지식 수준, 개방성 수준 외에도 다른 특성들이 어떻게 태도 변화에 영향을 미치는지 파악해야 합니다. 둘째, 다양한 검색 시나리오와 편향 조건을 고려하여 실험을 설계하고 사용자의 태도 변화와 검색 행태를 실제 시나리오에 가깝게 모델링해야 합니다. 이를 통해 실제 사용자의 행동과 의사 결정에 더 가까운 결과를 얻을 수 있습니다. 셋째, 사용자의 인지적 편향과 알고리즘적 편향이 상호작용하는 과정을 더 자세히 이해하기 위해 실험 및 조사를 확대할 필요가 있습니다. 이를 통해 효과적인 편향 인식 및 완화 전략을 개발하고 사용자 중심의 검색 시스템을 설계하는 데 도움이 될 것입니다.