PM Desk

AI 낯선 사람 장난, 어디서 시작되었나?최근 사회관계망서비스(SNS)를 중심으로 'AI 낯선사람 장난'이라 불리는 새로운 형태의 몰래카메라 콘텐츠가 확산하고 있다. 집 사진 속에 낯선 사람을 AI로 합성해 가족이나 연인을 속이는 허위 침입 연출이 유행하며, 미국·영국에서 시작된 이 챌린지가 한국 크리에이터들 사이에서도 그대로 복제되고 있다. 단순한 장난이 아닌, 심각한 사회적 문제문제는 단순한 ‘장난’이 아니라는 점이다. 허위 침입 사진을 본 가족이나 연인이 실제로 경찰에 신고하는 사례가 발생하면서, 공공안전과 사회적 신뢰를 위협하는 신종 AI 장난 문화로 번지고 있다는 지적이 나온다. AI 몰카, 당신의 일상 속으로 침투하다55만 명의 구독자를 보유한 한 한국 유튜버는 최근 남자친구와 함께..

가짜 만남, 진짜 위험: 딥페이크가 던지는 경고최근, 미국의 사업가가 소셜 미디어에 올린 사진 한 장이 큰 파장을 일으켰습니다. 사진 속에는 블랙핑크 리사와 나란히 앉아 있는 자신의 모습이 담겨 있었죠. 하지만 이 사진은 놀랍게도 인공지능(AI) 기술로 만들어진 합성 이미지였습니다. 소셜 트레이딩 앱 ‘애프터아워’ 창업자 케빈 시우는 “블랙핑크 리사를 만났다”는 글과 함께 이 사진을 게시했지만, 이내 “사실 아무 일도 없었다”고 밝히며, “가짜 이미지를 만드는 데 이제 비용이 들지 않는다”고 경고했습니다. AI 기술의 놀라운 발전과 딥페이크의 그림자케빈 시우가 사용한 기술은 ‘나노바나나(Nano Banana)’라는 AI 이미지 생성 모델입니다. 이 모델은 단 몇 초 만에 실제와 구별하기 어려운 이미..

딥페이크 기술의 악용과 그 결과최근 딥페이크 기술이 범죄에 악용되며 사회적 문제로 대두되고 있습니다. 울산경찰청은 채팅 앱을 통해 이성에게 접근하여 120억 원을 가로챈 45명의 사기 일당을 검거했습니다. 이들은 캄보디아에 사무실을 두고, 일반인 사진을 모아 딥페이크 기술로 가상의 34세 여성을 만들어냈습니다. 이 여성은 서울 강남에 40억 원대 아파트를 소유하고 있다고 주장하며 피해자들과의 신뢰를 형성했습니다. 이처럼 딥페이크 기술이 범죄에 악용된 사례는 처음이 아닙니다. 실제로, 사기 일당은 피해자들에게 투자금을 요구하며 치밀하게 범죄를 조직했습니다. 가상 인물을 통한 교묘한 접근사기 일당은 가상의 여성을 통해 피해자들과 매일 채팅하며 신뢰를 쌓았습니다. 이를 위해 채팅 담당 직원 100여 명이..