PM Desk

AI가 만든 야구장 여신, 진짜일까? 800만 뷰 영상의 충격적인 진실!

SNS를 뒤흔든 5초 영상의 정체최근 인스타그램에 올라온 5초짜리 영상이 사흘 만에 800만 조회수를 돌파하며 폭발적인 화제를 모으고 있습니다. 야구장 관중석에서 포착된 한 아름다운 여성이 등장하는 이 영상은 '와, 게임에 집중할 수가 없네요!'라는 영어 음성과 함께 흘러나옵니다. 하지만 자세히 살펴보면 화면 왼쪽 상단의 점수표와 오른쪽 상단의 채널 로고 등 여러 부분에서 석연치 않은 점들이 발견됩니다. 이 영상이 인공지능(AI)으로 생성된 것이 아니냐는 논란이 일면서, 만약 가짜라면 소름 돋는다는 반응과 함께 SNS에 올라오는 AI 콘텐츠에 대한 명확한 가이드라인의 필요성이 제기되고 있습니다. 오류투성이 영상, AI의 흔적을 찾다영상이 AI 딥페이크라고 지적하는 사람들은 영상 속 야구 관련 정보에..

120억 로맨스 스캠 범죄, 캄보디아 현지서 한국인 부부 송환캄보디아 현지에서 120억원대 로맨스 스캠 범죄를 저질렀던 한국인 부부가 드디어 국내로 송환되었습니다. 오늘 오전 인천국제공항으로 사기 범죄 혐의로 붙잡힌 70여명이 전용기를 타고 한꺼번에 들어왔다는 소식은 많은 이들에게 충격을 안겨주고 있습니다. 이들 중에는 가상 인물로 위장하는 딥페이크 기술을 활용해 104명에게 약 120억원을 편취한 악명 높은 로맨스 스캠 부부도 포함되어 있었습니다. 이 부부는 성형수술로 얼굴을 바꾸는 등 치밀한 도피 전략을 구사해왔지만, 결국 꼬리가 잡히고 말았습니다. 지난해 10월 송환 당시에는 명단에서 빠져 있었으나, 이번에는 예외 없이 법의 심판을 받게 되었습니다. 현재 피의자들은 모두 체포영장이 발부된 상태이며,..

AI 낯선 사람 장난, 어디서 시작되었나?최근 사회관계망서비스(SNS)를 중심으로 'AI 낯선사람 장난'이라 불리는 새로운 형태의 몰래카메라 콘텐츠가 확산하고 있다. 집 사진 속에 낯선 사람을 AI로 합성해 가족이나 연인을 속이는 허위 침입 연출이 유행하며, 미국·영국에서 시작된 이 챌린지가 한국 크리에이터들 사이에서도 그대로 복제되고 있다. 단순한 장난이 아닌, 심각한 사회적 문제문제는 단순한 ‘장난’이 아니라는 점이다. 허위 침입 사진을 본 가족이나 연인이 실제로 경찰에 신고하는 사례가 발생하면서, 공공안전과 사회적 신뢰를 위협하는 신종 AI 장난 문화로 번지고 있다는 지적이 나온다. AI 몰카, 당신의 일상 속으로 침투하다55만 명의 구독자를 보유한 한 한국 유튜버는 최근 남자친구와 함께..

가짜 만남, 진짜 위험: 딥페이크가 던지는 경고최근, 미국의 사업가가 소셜 미디어에 올린 사진 한 장이 큰 파장을 일으켰습니다. 사진 속에는 블랙핑크 리사와 나란히 앉아 있는 자신의 모습이 담겨 있었죠. 하지만 이 사진은 놀랍게도 인공지능(AI) 기술로 만들어진 합성 이미지였습니다. 소셜 트레이딩 앱 ‘애프터아워’ 창업자 케빈 시우는 “블랙핑크 리사를 만났다”는 글과 함께 이 사진을 게시했지만, 이내 “사실 아무 일도 없었다”고 밝히며, “가짜 이미지를 만드는 데 이제 비용이 들지 않는다”고 경고했습니다. AI 기술의 놀라운 발전과 딥페이크의 그림자케빈 시우가 사용한 기술은 ‘나노바나나(Nano Banana)’라는 AI 이미지 생성 모델입니다. 이 모델은 단 몇 초 만에 실제와 구별하기 어려운 이미..

딥페이크 기술의 악용과 그 결과최근 딥페이크 기술이 범죄에 악용되며 사회적 문제로 대두되고 있습니다. 울산경찰청은 채팅 앱을 통해 이성에게 접근하여 120억 원을 가로챈 45명의 사기 일당을 검거했습니다. 이들은 캄보디아에 사무실을 두고, 일반인 사진을 모아 딥페이크 기술로 가상의 34세 여성을 만들어냈습니다. 이 여성은 서울 강남에 40억 원대 아파트를 소유하고 있다고 주장하며 피해자들과의 신뢰를 형성했습니다. 이처럼 딥페이크 기술이 범죄에 악용된 사례는 처음이 아닙니다. 실제로, 사기 일당은 피해자들에게 투자금을 요구하며 치밀하게 범죄를 조직했습니다. 가상 인물을 통한 교묘한 접근사기 일당은 가상의 여성을 통해 피해자들과 매일 채팅하며 신뢰를 쌓았습니다. 이를 위해 채팅 담당 직원 100여 명이..