AI 스테이블 디퓨전 이미지 생성과 개인정보: 프롬프트 공유 및 IP 추적 될까?

Stable Diffusion 이미지 생성과 개인정보

이 분야에 있어 잘 모르는 분들을 위한 매우 기초적인 글 입니다. 🙂

인류의 발전은 크게 호기심과 탐구 정신에 의해 이루어지며, 이것은 과학, 기술, 문화, 예술 등 모든 분야에 영향을 미칩니다. 위험한(?) 호기심도 제외할 수 없겠죠. AI(인공지능) 세상 또한 다르지 않습니다. 친구놈들이 스테이블 디퓨전으로 만든 짤을 단톡방에 올리다가 일시적 계정 정지를 먹기도 하는데, 그렇다고 그 열정;을 멈출순 없어보입니다. 여기서 많은 사람들이 갖게 되는 의문점이 하나 있을텐데요. “나 이렇게 실컷 만들어도 괜찮은건가? 내 개인정보, 내가 입력한 커맨드가 공유되거나 그러진 않을까? 입니다.

아래는 톡방에 나왔던 질문들입니다. 컴퓨터, 네트워크, 기계 등과 친하지 않은 친구들도 많기 때문에 매우 초보적인 질문이지만 누구나 한 번쯤 해볼 수 있는 질문입니다.

• Stable Diffusion으로 지극히 개인적인 짤들을 만들면 내 정보가 PC 밖으로 나가진 않나?
• AI 이미지 생성을 위해 입력한 ‘프롬프트’는 외부로 공유되거나 전송되진 않는가?
• “나 이런 이미지 만들면 IP 주소 같은거 전송돼서 잡혀가냐?”

스테이블 디퓨전 개인정보 보호 정책

구체적인 정책은 Privacy 페이지을 참고하세요. 주요 부분을 번역하면 아래와 같습니다.

• 어떤 개인정보를 처리하나요? : 귀하가 당사 서비스를 방문, 사용 또는 탐색할 때 당사는 귀하가 Stability.AI 및 서비스와 상호 작용하는 방식, 귀하의 선택, 귀하가 사용하는 제품 및 기능에 따라 개인정보를 처리할 수 있습니다.
• 민감한 개인정보를 처리하나요? : No
• 제3자로부터 정보를 수신하나요? : 어떠한 정보도 받지 않습니다.
• 내 정보는 어떻게 처리하나요? : 당사는 서비스를 제공, 개선 및 관리하고, 보안 및 사기 방지를 위해 귀하와 소통하며, 법률을 준수하기 위해 귀하의 정보를 처리합니다. 또한 당사는 회원님의 동의 하에 다른 목적으로 회원님의 정보를 처리할 수도 있습니다. 당사는 유효한 법적 사유가 있는 경우에만 귀하의 정보를 처리합니다.
• 어떤 상황에서 어떤 당사자와 개인정보를 공유하나요? : 특정 상황 및 특정 제3자와 정보를 공유할 수 있습니다.
• 개인정보를 어떻게 안전하게 보호하나요? : 회원의 개인정보를 보호하기 위한 조직적, 기술적 프로세스와 절차를 갖추고 있습니다. 그러나 인터넷을 통한 전자 전송이나 정보 저장 기술은 100% 안전하다고 보장할 수 없으므로 해커, 사이버 범죄자 또는 기타 권한이 없는 제3자가 당사의 보안을 무력화하고 귀하의 정보를 부적절하게 수집, 액세스, 도용 또는 수정하지 못할 것이라고 약속하거나 보장할 수 없습니다.
• 귀하가 제공하는 개인정보 : 당사가 수집하는 개인정보는 귀하가 서비스 및 당사와 상호 작용하는 맥락, 귀하의 선택, 귀하가 사용하는 제품 및 기능에 따라 달라집니다. 당사가 수집하는 개인정보에는 다음이 포함될 수 있습니다:
  • 애플리케이션 정보
  • 통신 정보
  • 사용 정보
  • 쿠키
  • 로그 데이터
• 자동으로 수집되는 정보 요약 : 인터넷 프로토콜(IP) 주소 및/또는 브라우저 및 기기 특성과 같은 일부 정보는 귀하가 당사의 서비스를 방문할 때 자동으로 수집됩니다.
  • 당사는 귀하가 서비스를 방문, 사용 또는 탐색할 때 특정 정보를 자동으로 수집합니다. 이 정보는 귀하의 특정 신원(예: 이름 또는 연락처 정보)을 밝히지 않습니다. 여기에는 IP 주소, 브라우저 및 기기 특성, 운영 체제, 언어 기본 설정, 참조 URL, 기기 이름, 국가와 같은 기기 및 사용 정보가 포함될 수 있습니다.

이런 내용들이 있는데요. 이런 개인정보 보호(처리) 정책을 보면 “내가 생성하는 이미지들에 대한 정보가 모두 전송되는거네?“라고 생각하실 수 있지만 이는 웹을 통해 당사의 서비스를 이용할 경우에 적용되는 정책입니다.

내 컴퓨터에서 만드는 것은 안전한가?

이미지 생성을 위한 모든 것을 다운로드 받은 후 PC, 즉 로컬에서 제작되는 이미지는 괜찮습니다. 불안하시다면 아래의 방법을 사용하시는 것도 좋습니다.

• 가상 컴퓨터 : Hyper-V, 버추얼 박스 같은 가상 컴퓨터 프로그램으로 SD 전용 공간을 만든 뒤에 필요한 모든 데이터를 다운로드 받은 뒤 해당 공간만 인터넷 연결을 끊고 사용하셔도 됩니다.
• 오프라인 디바이스 : 위의 가상 컴퓨터는 고성능으로 원활하게 돌리려면 높은 사양이 필요하기 때문에 조금 답답할 수 있습니다. 따로 노트북이나 컴퓨터를 구매해서 오프라인으로 돌려도 됩니다. Bitlocker 등으로 디스크 전체 암호화는 필수.
• 보조 디스크 : D드라이브에 SSD 혹은 HDD를 하나 더 연결한 다음 윈도우 유저라면 Bitlocker로 디스크 암호화 한 뒤 사용할 때만 잠시 네트워크 Off + 잠긴 디스크를 언락해서 쓰셔도 되겠습니다.

이미지 메타데이터에 프롬프트 정보가 남는 것으로 기본 설정 되어있기 때문에 ‘암호화 된 공간’에 보관하시는게 좋겠죠. 아니면 이미지 포맷을 바꾸거나 이미지를 살짝 수정하는 방법 등으로 메타데이터를 지우거나 각자의 방법으로 관리하시면 되겠습니다. 저도 AI 쪽에는 초보라 이 부분은 좀 더 찾아보시는 것을 권해드립니다.

네트워크 차단까지 필요없다면 Veracrypt 같은 것을 써서 그 안에서만 생성하는 것도 좋습니다.

스테이블 디퓨전 사용시 IP 주소 추적 될까? – 요약

• 온라인 서비스를 이용하면 당연히 문제가 될 수 있고 본인이 책임져야할 일이 생길 수 있습니다.
• 로컬 오프라인 사용이라면 본인의 IP 주소, 이미지, 프롬프트 등이 전송된다거나 하는 일은 없으므로 괜찮습니다. Stable Diffusion을 로컬에서 사용하기 위해 인터넷 연결이 없어도 가능하기 때문에 컴퓨터에서 데이터 또는 개인 정보 침해가 발생할 가능성이 없다고 할 수 있습니다.
• 생성 된 이미지와 본인의 프라이버시 위해서 암호화된 공간에 보관하는 것을 추천합니다.

아는 분들이야 이런걸 걱정하냐고 생각하실 수 있겠지만, 누구나 모르는 분야가 있고 밤길이 더 무서운 것 처럼 알지 못하는 분야에 대해서는 막연한 두려움이 있을 수 있습니다. 그래서 이런 글을 한번 써봤습니다. 🙂