영상이 편하신 분들은 위 영상을 시청해 주세요.
영상에서는 분량의 제한으로 글에는 담지 못한 더욱 자세한 얘기들을 다루고 있답니다!
들어가며
시카고 대학의 한 연구팀에서 이미지에 독을 풀어 AI 학습을 망치는 프로그램을 공개했습니다. 독이 든 이미지를 학습한 인공지능은 제정신을 못 차리고, 그림의 스타일을 제대로 학습하지 못하거나 이상한 결과물을 생성하게 되는데요. 오늘은 무료이고 누구나 바로 사용 가능한 Nightshade라는 프로그램을 소개해 드리려고 합니다. 주변에 창작자가 있다면 자신의 작품 지킬 수 있게 꼭 이 글을 공유해 주세요!
AI 그림 학습
제가 굉장히 좋아하는 GrimB 작가님의 그림들인데요. 얇은 선들을 잘 살리고 명암 표현이 뛰어나며, 따뜻한 파스텔 계열의 색들을 잘 사용하는 작가님입니다. 그런데 사실 두 장 중 한 장은 AI가 생성한 그림인데요. 어떤 그림이 AI가 생성한 그림인지 아시겠나요?
힌트를 드리기 위해 GrimB 작가님의 그림들을 더 보여드릴게요!
사실 두 장 모두 AI가 생성한 그림이었습니다! 혹시 정답을 맞추셨나요? 두 장 모두 GrimB 작가님의 그림 단 15장만으로 학습한 AI가 생성한 결과입니다. 더 많은 그림을 사용하면 성능이 더 좋아지겠죠? 일반적으로 학습 데이터가 20장 이상이 되어야 그림체를 학습할 수 있는데, 15장만으로도 완벽하진 않지만 GrimB 작가님의 스타일을 꽤 잘 살린 것 같습니다.
이처럼 최근에 AI로 특정 작가님의 그림체를 학습하는 것이 쉬워지면서 여러 문제가 발생하고 있는데요. 대표적으로 AI로 그린 그림을 올리고 본인이 작가인 척 행세하며, 부당한 이득을 취하는 사람들이 생겼다는 것입니다.
Nightshade, 이미지에 독을 푸는 프로그램
이런 문제를 해결하기 위해 시카고 대학의 한 연구팀에서 이미지에 독을 풀 수 있는 Nightshade라는 프로그램을 공개했습니다. 사람에게는 잘 보이지 않으나, AI에게는 치명적인 작은 변형을 이미지에 가해 AI 학습을 망치는 원리입니다. 프로그램 다운로드 링크는 아래와 같습니다. 자신의 운영체제에 맞는 프로그램을 설치하시면 됩니다.
- Nightshade 프로그램 다운로드 (Windows 10/11)
- Nightshade 프로그램 다운로드 (MacOS - Apple Silicon)
프로그램을 다운로드 받으면 위와 같은 창이 열리는데요.
1. SELECTED YOUR IMAGE(S) TO ADD NIGHTSHADE
1번에서는 독을 가하고 싶은 이미지를 선택하시면 됩니다. 1장만 선택하실 수도 있고, 여러 장 선택하실 수도 있습니다. 이미지 개수가 많아질수록 필요한 시간이 늘어나니까 일단 테스트로 1장 하면서 내 그림에 맞는 세팅을 찾으시는 것을 추천드릴게요.
2. DEFINE NIGHTSHADE SETTINGS
가장 중요한 부분인데요. 이미지에 독을 얼마큼 가할지 정하는 단계입니다.
Instensity (강도)는 얼마큼 강하게 이미지를 변형시킬지입니다. 약함, 기본, 강함 세 가지가 있고 강도가 세질수록 이미지에 변형이 많아지고 독이 더 세집니다. 인공지능 학습에 더 안 좋은 영향을 끼치겠죠?
Render Quality (시간)는 얼마큼 오랫동안 이미지에 변형을 가할지입니다. 짧게, 중간, 길게, 매우 길게 네 가지 단계가 있고 시간이 늘어날수록 이미지에 변형이 더 많아집니다.
3. OUTPUT
컴퓨터 어느 경로에 결과물을 저장할지 선택하시면 됩니다.
저도 GrimB 작가님의 위 그림으로 테스트를 해봤는데요. 제가 테스트한 이미지에 대해서는 강도 약함과 기본까지는 가시적으로 큰 차이가 없었으나, 강도 강함은 이미지에 변형이 너무 세서 사용하지 못할 수준이었습니다. 다만 이 결과가 이미지의 색상이나 스타일마다 다르기에 직접 여러분 그림이나 사진으로 테스트해서 비교해 보시는 것을 추천드릴게요. 아래는 변형 결과입니다. (영상에서는 더욱 자세히 소개하고 있어요!)
강도 강함의 경우 이미지에 변형이 심한 게 바로 보이시죠?
그림 속 남자의 오른쪽 팔 부분을 보시면 이상한 모양의 노이즈가 생긴 것을 확인할 수 있답니다.
실험 결과 비교
프로그램의 성능 테스트를 위해 제가 직접 두 가지 AI 모델을 학습시켜봤는데요.
1. GrimB 작가님의 원본 그림 15장을 학습한 AI
2. 독이 든 GrimB 작가님의 그림 15장을 학습한 AI
위 두 장 중 한 장은 1번 AI가 생성한 결과이고, 다른 한 장은 2번 AI가 생성한 결과랍니다.
어떤 이미지가 독에 중독된 AI가 생성한 그림인지, 여러분들은 맞출 수 있으신가요?
결과는 스포 방지를 위해 글의 가장 하단에 적어두었습니다!
결론
오늘은 이미지에 독을 풀어 AI 학습으로부터 내 그림을 지키는 Nightshade라는 프로그램을 소개해 드렸는데요. 설사 독의 효과가 미미하더라도 사실 이런 프로그램이 나왔다는 것 자체에 큰 의미가 있다고 생각합니다.
첫 번째는 법률적인 관점에서 더 우위를 잡기 위한 수단이 될 수 있습니다. 독이 든 이미지를 인공지능 학습 데이터에 사용했다면 기술적 보호조치 무력화 시도로 엮으면서 법적인 분쟁 시 좀 더 이점을 가져갈 수도 있겠죠.
두 번째가 훨씬 중요한데요. 바로 이제 시작이라는 겁니다. 제가 카이스트 연구실에서 AI 연구를 하던 2021년만 하더라도 생성형 AI는 아직 연구 수준이었습니다. 상용화된 서비스가 없었고 연구실에서 간단한 프로그램 정도만 만드는 수준이었어요. 꼭 오늘 소개해 드린 프로그램처럼요. 그런데 지금은 어떤가요? 생성형 AI는 이미지를 넘어 영상도 정복하려고 하고 있죠. 저는 특정 이미지의 스타일을 학습하지 못하도록 하는 기술도 굉장히 빠르게 발전할 것으로 생각합니다. 따라서 앞으로 어떻게 발전하는지 지켜보는 게 중요하겠죠. 싸움은 이제 시작이니까요.
퀴즈의 정답은?
왼쪽 사진이 독이 든 그림 15장으로 학습한 AI가 생성한 이미지였습니다! GrimB 작가님의 원래 스타일에 비해 그림의 대비가 너무 뚜렷한 것 느껴지시나요? 독 그림을 먹었더니 AI가 스타일을 제대로 학습하지 못한 것 같네요.
나를 위한 AI 유튜브에서 보다 자세하고 재밌는 영상들을 확인하세요!
나를 위한 AI 뉴스레터 를 구독해 매주 새로운 콘텐츠를 만나보세요!
'AI > 소식' 카테고리의 다른 글
| 우리집 강아지 AI 그림 만들기 (0) | 2024.03.19 |
|---|---|
| AI 개발자가 되고 싶은데, 대학원에 가야할까요? (w/ 무료 전자책) (0) | 2024.03.01 |
