슬슬 ‘인간 통제’나선 AI

이스라엘, 안면인식 기술 활용

 

이스라엘이 인공지능(AI) 기술을 활용해 팔레스타인에 대한 통제를 강화하고 있다는 폭로가 나왔다. 안면 인식 기술을 활용해 팔레스타인 주민을 감시하고 탄압하는 등 반(反)인권적 규제에 AI를 악용한다는 게 요지다. AI가 빅브라더 사회를 조장하고, AI 기술 격차가 차별을 부추긴다는 우려가 점점 더 현실이 되고 있다.

 

2일(현지시간) 국제엠네스티는 이스라엘이 최근 팔레스타인 서안지구 헤브론 검문소에 안면 인식 시스템을 설치했다고 공개했다. 일명 ‘레드 울프’라 불리는 새로운 AI 안면 인식 프로그램을 통해 통제 지역을 벗어난 팔레스타인인을 색출한다고 엠네스티는 전했다.

 

‘레드 울프’는 검문소를 통과하려는 팔레스타인인 얼굴을 스캔해 신원을 확인한다. 이스라엘이 보유한 데이터베이스를 검색해 정보가 일치하는 팔레스타인인만 검문소를 통과시켜 준다. 저장된 개인정보가 없거나 구금, 심문, 체포가 필요한 위험 인물이라고 AI의 알고리즘이 인식하면 자동으로 통과를 막는다.

 

인권 침해란 비판이 잇따르고 있다. 엠네스티는 “이스라엘이 ‘자동화된 아파르트헤이트(인종차별 정책)’를 펼치고 있다”고 지적했다. “불법으로 획득한 생체 인식 정보를 사용해 팔레스타인 사람들이 누려야 할 이동의 자유를 가혹하게 제한하고 있다”는 게 이유다. 미 뉴욕타임스(NYT)는 “이스라엘은 오랫동안 팔레스타인인의 이동의 자유를 제한해 왔지만 AI 기술 발전은 이스라엘에 새로운 강력한 도구를 제공했다”고 평가했다.