AI가 생성한 허리케인 이미지로 퍼지는 가짜 뉴스에 주의 | Release #23

미국의 기상 정보 플랫폼 〈FOX WEATHER〉는 허리케인 〈Idalia〉의 가짜 AI 생성 이미지에 대해 경고를 내렸습니다. AI로 생성된 일련의 이미지가 Facebook과 Instagram 계정에 “Idalia is here”라는 캡션과 함께 게시되었습니다. 해당 게시물에는 수백 건의 찬사 댓글이 달렸고, 많은 계정들이 ‘Photographer’를 칭송한 점이 충격적입니다.

〈FOX WEATHER〉의 기상학자 Amy Freeze는 “지난달 허리케인 Idalia가 상륙했을 때, Facebook에 게시된 AI 생성 이미지는 2,300만 회의 조회수와 18만 1천 회의 공유를 기록했습니다. 이는 상당한 수치입니다.”라고 밝혔습니다. 이어 “전국기상청이 가짜 뉴스와 동일한 플랫폼인 SNS를 통해 기상 정보를 제공하고 있기 때문에, 올바른 정보와 혼동될 가능성이 매우 높다”며 AI 생성 이미지의 위험성을 강조했습니다.

가짜 뉴스와 같은 악용 사례가 발생하면, AI 생성 이미지 기술에 대한 경계심은 더욱 커질 것입니다. 이러한 시선이 생기는 것도 이해할 수 있습니다. 특히 이번 사례는 인명에 영향을 줄 수 있는 자연재해와 관련된 이미지였기에, 더욱 엄격한 비판이 불가피합니다.

AI 생성 이미지를 공유하는 것 자체는 문제가 없지만, 게시자가 그것이 실제가 아닌 AI로 생성된 것임을 투명하게 밝히는 것이 AI 시대를 살아가는 우리의 윤리적 의식으로 앞으로도 중요해질 것입니다. “AI 생성 이미지임 | 아님”이라는 한 문장의 캡션만으로도 사진의 의미가 달라질 만큼, 언어라는 콘텍스트는 강력하고 이미지는 모호할 수 있기 때문입니다.

역사를 돌아보면, 다이너마이트를 무기로 만든 것도 결국 우리 인간이었습니다. 후대가 AI 기술을 어떻게 평가하고 논의할지는, 지금을 살아가는 우리에게 달려 있습니다.