AI는 인간의 사고를 확장하는가, 아니면 판단을 외주화하는가?
319명의 AI 사용자가 보여준 경고: 생각을 맡기지 않고 확장하는 법
2025년 Microsoft와 Carnegie Mellon 연구진은 생성형 AI를 업무에 사용하는 지식노동자 319명에게서 936개의 실제 사용 사례를 수집했다. 연구에서는 특정 업무에서 AI를 더 신뢰할수록 비판적 사고를 덜 수행하는 경향이, 자신의 판단 능력을 더 신뢰할수록 비판적 사고를 더 많이 수행하는 경향이 나타났다. 다만 이것은 자기보고식 조사이므로 AI가 인간의 사고력을 직접 약화시켰다는 인과관계까지 증명한 것은 아니다. 그럼에도 AI 시대의 중요한 경고를 던진다.
Microsoft Research 연구 보기
인간은 AI를 믿을수록 더 많이 아는 존재가 될 수도 있지만, 스스로 판단하는 횟수는 오히려 줄어들 수 있다.
지식을 모으는 것과 자신의 지식이 되는 것은 다르다
최근 여러 LLMWiki를 살펴보면 방대한 자료를 수집하고, AI가 그것을 검색하고 재구성하게 만드는 데 목적을 두는 경우가 많다. 이런 시스템은 매우 편리하다. 질문을 입력하면 과거 자료를 찾아 요약하고, 서로 다른 문서를 연결해 새로운 문장을 만들어준다.
그러나 여기에는 중요한 위험이 숨어 있다.
AI가 재구성한 문장을 사용자가 이해하지 않았는데도 자신의 지식처럼 받아들이기 시작하면, 그 시스템은 ‘두 번째 뇌’가 아니라 외부에 임대한 작은 언어모형이 된다. 접속되어 있을 때는 무엇이든 알고 있는 것처럼 보이지만, 연결이 끊기면 사용자는 과거의 판단을 스스로 재구성하지 못한다.
정보가 사라진 것이 아니다. 정보와 인간 사이의 길이 사라진 것이다.
기억을 외부에 맡기는 행위 자체가 언제나 나쁜 것은 아니다. 인지과학에서는 메모나 계산기처럼 외부 도구를 사용해 내부의 인지 부담을 줄이는 것을 ‘인지적 외주화’라고 부른다. 이는 제한된 기억을 더 중요한 사고에 사용할 수 있게 한다. 문제는 무엇을 외부에 맡기고 무엇을 인간 내부에 남길 것인가이다.
인지적 외주화 연구 개요
GPS는 길을 알려주지만 길을 기억하게 하지는 않는다
이 문제를 잘 보여주는 사례가 GPS다.
2020년 《Scientific Reports》에 발표된 연구는 정기적으로 운전하는 50명의 GPS 사용 경험과 공간기억을 조사했다. GPS를 더 많이 사용한 사람일수록 스스로 길을 찾아야 할 때 공간기억과 인지지도 형성 능력이 낮은 경향을 보였다. 13명을 대상으로 한 3년 후 추적에서도 GPS 사용 증가와 공간기억 저하의 연관성이 관찰됐다.
다만 추적 표본이 13명으로 작았으며, 이 연구를 LLM 사용에 그대로 적용할 수는 없다. 그럼에도 하나의 원리는 생각해 볼 수 있다.
도구가 결과를 계속 제공하면 인간은 결과를 얻는 능력은 유지하지만, 결과에 도달하는 내부 경로는 약해질 수 있다.
GPS는 목적지에 도착하게 해준다. 그러나 주변의 지형과 방향을 스스로 읽지 않으면 머릿속에는 지도가 만들어지지 않는다. AI 역시 답을 줄 수 있지만, 사용자가 의심하고 분해하고 다시 구성하지 않으면 자신의 사유 지도는 형성되지 않는다.
GPS 사용과 공간기억 연구
AI는 판정자가 아니라 반대신문자여야 한다
미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크는 인간과 AI가 함께 판단할 때 각자의 역할과 책임을 명확히 구분해야 한다고 권고한다. 또한 복잡한 인간 현상을 수학적 모델로 바꾸는 과정에서 중요한 맥락이 사라질 수 있으며, 인간과 AI의 결합이 어떤 조건에서는 인간의 편향을 오히려 증폭할 수 있다고 지적한다.
NIST의 지침은 조직의 AI 위험관리를 위한 것이므로 개인의 사고력 저하를 직접 입증하는 연구는 아니다. 그러나 인간과 AI의 역할을 사전에 분리해야 한다는 원칙은 개인에게도 유효하다.
NIST 인간–AI 상호작용 지침
내가 생각하는 역할의 구분은 다음과 같다.
AI는 자료를 수집하고 서로 다른 증거를 연결한다.
AI는 기존 판단과 충돌하는 사실을 찾아낸다.
AI는 가능한 시나리오와 반증 조건을 제시한다.
인간은 AI의 분석을 자신의 경험과 문제의식 속에서 소화한다.
최종 판단과 그 결과에 대한 책임은 인간이 가진다.
현실의 결과로 인간과 AI의 판단을 각각 검정한다.
이 구조에서 AI는 정답을 내리는 판정자가 아니다. 인간의 판단을 날카롭게 만드는 반대신문자이며, 잊힌 증거를 다시 비추는 기억의 보조자다.
비트코인 하락에서 시험한 작은 사례
최근 비트코인 가격이 주요 지지선을 이탈했을 때, AI 분석은 이를 ‘상향 편향의 변동성 압축이 하방으로 해소된 사건’으로 판단했다. 가격 구조만 보면 타당한 분석이었다.
그러나 나는 여기에서 다른 층을 보았다.
비트코인 자체의 특별한 악재가 확인되지 않았고, 기존 보유자의 장기적 믿음이 약해졌다는 증거도 충분하지 않았다. AI 관련 주식이 급락 뒤 관망 국면으로 들어간 상황에서, 비트코인 보유자가 손실을 감수하면서까지 다른 자산으로 이동하려는 유인은 크지 않다고 판단했다.
신규 단기자금은 들어오지 않더라도 장기적으로 매집해 온 자금이 저점에서 다시 물량을 흡수한다면, 당일 저점은 방어될 수 있다는 가설이었다.
중요한 것은 이 판단이 맞는다고 선언하지 않았다는 점이다. AI의 분석을 삭제하거나 나의 판단에 맞게 수정하지도 않았다. 두 판단을 함께 남기고 다음 조건을 정했다.
당일 저점이 재시험 후 유지되는가
매도 거래량이 감소하는가
현물 매수와 물량 흡수가 나타나는가
ETF 유출과 거래소 입금이 가속되는가
AI 주식의 위험회피가 비트코인 청산으로 전이되는가
저점이 유지되면 인간의 보유자 심리 가설이 강화된다. 저점을 종가로 이탈하고 재탈환하지 못하면 가설은 반증된다. 아직 결과가 나오지 않았으므로 이것은 성공 사례가 아니라, 인간과 AI의 판단을 분리해 현실에 물어본 첫 실험이다.
의식의 보조자를 사용하는 일곱 가지 원칙
1. AI의 답변을 지식이 아니라 후보로 취급한다
AI가 만든 문장은 가능성의 재료다. 출처를 확인하고 사용자가 이해해 자신의 언어로 다시 설명할 수 있을 때만 판단의 재료가 된다.
2. 중요한 문제에서는 인간의 선행 판단을 먼저 기록한다
AI의 결론을 보기 전에 자신이 무엇을 예상하는지 적는다. 그래야 AI의 문장이 인간의 생각을 은밀하게 끌고 가는 것을 막을 수 있다.
3. 사실·AI 해석·인간 판단을 분리한다
세 층을 섞으면 나중에 무엇이 자료였고 무엇이 해석이었는지 알 수 없다. 인간이 소화하고 승인한 판단에는 별도의 표시가 필요하다.
4. 인간과 AI의 판단이 다를 때 차이를 보존한다
불일치는 오류가 아니라 가장 귀중한 검정 자료다. 어느 쪽이 옳았는지만 볼 것이 아니라, 어떤 시장과 어떤 조건에서 각각 강했는지를 추적해야 한다.
5. 모든 판단에 확인 조건과 반증 조건을 붙인다
반증될 수 없는 주장은 예측이 아니라 신념이다. 현실이 어떤 모습으로 나타나면 자신의 판단을 수정할 것인지 미리 적어야 한다.
6. 틀린 판단을 사후에 고쳐 쓰지 않는다
최초 판단을 그대로 남겨야 자신의 반복적인 편향을 발견할 수 있다. 맞은 기록만 모으면 시스템은 학습하는 것이 아니라 자기확신을 편집하게 된다.
7. AI 없이도 핵심 논리를 설명할 수 있어야 한다
시스템과 연결이 끊겼을 때도 왜 그런 판단을 했는지 자신의 언어로 설명할 수 있어야 한다. 그렇지 않다면 지식을 확장한 것이 아니라 사고를 임대한 것이다.
직선이 아니라 회오리처럼 상승하는 사고
전통적인 지식 시스템은 자료를 많이 모아 하나의 결론을 만드는 데 집중한다. 그러나 현실은 하나의 원인과 하나의 결론으로 움직이지 않는다. 가격, 제도, 기술, 사람의 욕망과 공포는 서로 영향을 주며 계속 변한다.
따라서 사고의 발전은 직선이 아니라 회오리와 닮아야 한다.
자료 → AI 분석 → 인간의 판단 → 현실의 응답 → 오류 발견 → 새로운 판단
이 과정은 같은 자리로 돌아오는 것처럼 보이지만 매번 다른 높이에서 이전 판단을 바라본다. 처음에는 가격만 보다가 다음에는 보유자의 심리를 보고, 다시 제도와 자금 흐름을 보게 된다. 인과의 사슬은 점차 인과의 그물로 변한다.
다만 회오리가 상승하려면 중심축이 필요하다. 그 중심은 특정한 결론이 아니다.
현실에 의해 반박될 수 있는 열린 판단
틀린 기록을 지우지 않는 정직한 기억
AI에 넘겨주지 않는 인간의 최종 주권
이 중심이 없다면 회오리는 상승이 아니라 자기확신을 증폭하는 소용돌이가 된다.
AI 시대에 지켜야 할 것은 정확도만이 아니다
AI를 사용해 더 많은 예측을 맞힐 수는 있다. 그러나 그 과정에서 인간이 스스로 질문하고 판단하는 능력을 잃는다면 그것을 진보라고 부르기 어렵다.
좋은 AI 시스템은 인간을 대신해 생각하는 장치가 아니다. 인간이 자신의 생각을 외부에서 바라보고, 반대 증거와 만나고, 현실의 응답을 기억하도록 돕는 장치다.
AI는 가능성을 넓힌다. 인간은 그 가능성 가운데 무엇을 현실에 물어볼지 선택한다. 그리고 오직 인간이 이해하고 책임질 수 있는 판단만이 자신의 지식이 된다.
등불은 길을 비출 수 있지만 어디로 걸어갈 것인지는 걷는 자가 결정해야 한다.
AI 시대에 우리가 지켜야 할 것은 단지 더 정확한 답이 아니다. AI와 함께 있으면서도 스스로 판단할 수 있는 인간으로 남는 능력이다.
※ 이 글은 생성형 AI와 비판적 사고에 관한 Microsoft·Carnegie Mellon 연구, NIST AI 위험관리 프레임워크, GPS 사용과 공간기억에 관한 학술연구, 그리고 필자의 인간–AI 판단 실험을 바탕으로 작성했다. 각 연구는 AI가 인간의 사고력을 직접 약화시킨다는 일반적 인과관계를 확정하지 않는다. 이 글은 인간이 판단의 주권을 유지하면서 AI를 활용하기 위한 실천적 제안이다.
댓글
댓글 쓰기