AI 환각현상에 곤경 처할 수 있어
IRS는 AI를 세무 전문가로 불인정
본격적인 세금보고 시즌이 시작된 가운데, 인공지능(AI)의 역할이 그 어느 때보다 커지고 있다. 많은 납세자가 세무 조언을 얻기 위해 AI로 눈을 돌리고 있지만, AI가 저지르는 사소한 실수가 막대한 금전적 손실로 이어질 수 있다는 경고가 나왔다.
현재 주요 세무 대행 업체들은 신고 절차를 간소화하기 위해 다양한 AI 도구를 도입하고 있다. 온라인 세무 신고 서비스들이 AI를 활용해 환급 절차를 효율화하고 있지만, 세무 전문가들은 납세자들이 반드시 인지해야 할 명확한 한계가 있다고 지적한다.
위검 법률사무소(Wiggam Law)의 제이슨 위검 변호사는 개인정보를 사전에 삭제한다는 전제하에, 공개형 AI 챗봇은 복잡한 서류를 정리하는 데 도움을 줄 수 있다고 설명했다. 하지만 그는 "현재로서는 AI가 내 업무를 어떤 식으로든 대체할 것이라고 전혀 걱정하지 않는다"며 "AI는 우리를 더 효율적으로 만들고 업무를 더 빠르고 정확하게 처리할 수 있게 해주지만, AI가 직접 전화를 걸어 국세청(IRS) 요원과 납세자를 대신해 협상을 벌이지는 못하기 때문"이라고 강조했다.
특히 챗GPT와 같은 공개형 챗봇을 세무 자원으로 활용하려는 이들에게 위검 변호사는 특히 챗봇이 '환각현상(Hallucinating, AI가 허위 정보를 사실처럼 생성하는 것)'을 일으킬 경우 곤경에 처할 수 있다고 경고했다. 위검 변호사에 따르면 AI는 세법 조항을 그대로 인용할 수는 있지만, 인간 세무 전문가처럼 법을 해석하거나 구체적인 권고안을 제시할 능력은 없다. 재정 상황이 복잡할수록 AI가 오류를 범할 확률은 더욱 높아진다.
보안 문제도 심각하다. 납세자가 AI 챗봇에 입력하는 정보는 법적으로 보호받지 못하며, AI의 학습 목적으로 공유되거나 사용될 수 있다. 이에 대해 국세청(IRS)조차도 "AI가 말하는 모든 것을 신뢰하지 말라"고 경고하고 있다.
IRS는 AI를 세무 전문가로 인정하지 않는다. 따라서 AI의 잘못된 조언을 따랐다가 오류가 발생하더라도 IRS는 그 책임을 인정하지 않으며, 그에 따른 모든 벌금은 납세자가 전적으로 부담해야 한다. AI가 서류 정리나 기초적인 계산에는 유용할 수 있지만, 복잡한 재정적 판단이 필요한 경우에는 전문적인 세무 지도를 대체할 수 없다. 박요셉 기자
