BBC, 애플 AI 요약기능이 여전히 가짜뉴스를 퍼뜨린다고 비판해

BBC가 애플의 AI 알림 요약기능이 여전히 가짜뉴스를 퍼뜨리고 있다고 비판했습니다.

지난해 12월, BBC는 애플이 iOS 18.2에서 도입한 알림 요약기능이 뉴스를 엉뚱하게 요약해 가짜 뉴스를 퍼뜨리고 있다며 우려를 표명하며 이를 속히 개선해 줄 것을 요청했습니다. 국경 없는 기자회에서는 한발 더 나아가 이 기능을 기본적으로 꺼야 한다고 주장했습니다. 그러나 이 기능은 여전히 개선되지 않은 것으로 보입니다. BBC는 1월 3일자 기사를 통해 애플이 여전히 이 기능을 개선하지 않아 가짜 뉴스가 생성되고 있다고 비판했습니다.

먼저, 지난 목요일 애플 AI는 BBC 뉴스 앱을 요약하면서 "다트 선수 Luke Littler가 PDC 월드 챔피언쉽에서 우승했다"는 헤드라인을 만들었습니다. 그러나 실제로 그가 뛴 경기는 준결승이었으며, 결승은 아직 치뤄지기 전이었습니다. 또 애플 AI가 BBC 스포츠 앱의 헤드라인들을 요약하는 과정에서 "브라질의 테니스 선수 Rafael Nadal이 게이로 밝혀졌다"는 황당한 헤드라인을 만들었습니다. 그러나 실제로 이 기사는 Joao Lucas Reis da Silva를 다루는 기사인 것으로 확인됐습니다.

BBC는 알림 요약기능이 애플 AI를 통해 구동되지만 결국 헤드라인이 노출되는건 우리와 같은 각 언론사 앱 이름을 달고 나오기 때문에, 이러한 종류의 오류는 심각한 신뢰성 문제를 불러온다고 빠른 조치를 요구했습니다.

애플은 BBC 등 여러 언론의 비판에 아직 아무 입장도 내놓지 않았습니다. 기사를 보도한 AppleInsider는 애플 AI 요약기능이 온디바이스로 작동해 순전히 기기 프로세싱 파워에 의존하는데다가 개인정보 보호를 위해 AI로 요약한 내용을 모니터링하지 않기 때문에, 이 AI 환각문제를 개선하는 것은 쉽지 않을 수 있다고 논평했습니다.