인스타그램이 AI로 생성하거나 상당 부분 만들어진 인물을 계정의 주인공으로 내세우는 프로필에 대한 표시를 강화한다. AI 생성 사실을 알리지 않은 계정은 비팔로워 대상 추천 등에서 도달 범위가 제한될 수 있어 AI 인플루언서 계정 운영 방식에도 변화가 예상된다.
인스타그램, ‘AI 생성 프로필’ 표시 강화…미표시 계정 노출 제한
인스타그램이 AI로 만들어진 인물을 내세운 계정에 ‘AI-generated profile’ 라벨을 적용하고, AI 생성 사실을 제대로 표시하지 않은 프로필의 노출을 제한하는 정책을 내놨다.
인스타그램은 8월 31일 기존 ‘AI creator’ 라벨의 명칭을 ‘AI-generated profile’로 변경한다고 밝혔다. 프로필에 등장하는 인물이 생성형 AI로 만들어졌거나 상당 부분 AI를 활용해 제작됐다는 사실을 이용자가 보다 쉽게 알 수 있도록 하기 위한 조치다. 라벨은 프로필과 콘텐츠에 표시될 수 있다.
적용 대상은 모든 AI 활용 계정이 아니다. 실제 창작자가 사진을 보정하거나 캡션을 다듬고 그래픽을 제작하는 등 콘텐츠 제작 과정에서 AI를 보조적으로 사용하는 경우에는 ‘AI-generated profile’ 라벨의 적용 대상이 아니다. 반면 계정에서 지속적으로 등장하는 인물 자체가 AI로 생성됐거나 상당 부분 AI로 만들어졌다면 표시 대상이 된다.
특히 라벨을 표시하지 않은 AI 생성 인물 프로필은 비팔로워에게 노출되는 과정에서 불이익을 받을 수 있다. 인스타그램은 AI 생성 인물을 내세운 계정이 이를 적절하게 공개하지 않을 경우 도달 범위를 제한할 수 있다고 밝혔다. 반대로 해당 계정이 AI 생성 인물이라는 사실을 적절하게 표시했다면 AI 인물을 사용했다는 이유만으로 도달 범위를 제한하지는 않는다는 설명이다.
이번 정책은 AI 기술 자체를 제한하기보다 이용자가 계정의 정체를 알 수 있도록 투명성을 강화하는 데 초점이 맞춰져 있다. 인스타그램은 실제 사람의 계정으로 인식하고 팔로우한 뒤 해당 인물이 AI로 생성됐다는 사실을 뒤늦게 알게 되는 이용자 경험을 문제로 보고 있다.
AI로 만든 인물이 소셜미디어에서 광고나 설득 수단으로 활용되는 사례도 정책 변화의 배경으로 거론된다. TechCrunch는 AI로 생성된 것으로 보이는 남성 인플루언서 계정들이 데이팅 앱 가입을 유도한 사례와 AI로 만들어진 의사·웰니스 인물이 건강보조제나 건강 관련 정보를 홍보한 사례를 소개했다.
메타는 이전부터 AI 생성 콘텐츠에 대한 표시 정책을 확대해 왔다. 2024년에는 페이스북·인스타그램·스레드에 게시되는 AI 생성 이미지에 관련 신호가 감지되면 라벨을 표시하는 방침을 발표했다. 메타는 이용자가 실제 콘텐츠와 AI 생성 콘텐츠의 경계를 파악할 수 있도록 투명성을 높이는 것이 중요하다고 설명했다.
이번 변화는 이 같은 콘텐츠 단위의 AI 표시에서 한 단계 더 나아가 계정의 주인공 자체가 AI 생성 인물인지 여부를 알리는 방식으로 범위를 넓혔다는 점에서 차이가 있다.
다만 제공된 자료만으로는 이번 정책이 모든 국가와 계정에 동일한 시점에 적용되는지, 라벨 미표시가 적발되는 구체적인 판단 기준과 제재 단계가 어떻게 구성되는지는 확인되지 않는다.
[이 기사의 저작권은 이비즈타임즈에 있습니다]
){kind=small}
){kind=small}
){kind=small}
){kind=small}