Nightshade: AI 아트의 종말? 

AI로 생성된 예술의 세계에서는 나이트셰이드라는 파괴적인 도구가 지각변동을 일으키고 있다. 이 툴을 사용하면 아티스트가 AI 모델에 사용되는 학습 데이터를 오염시키거나 손상시킬 수 있으며, 이로 인해 DALL-E, Stable Diffusion, Midjourney와 같은 미래의 AI 아트 플랫폼이 이미지를 생성할 수 없게 될 수 있다.

 

나이트셰이드의 작동 방식

 나이트셰이드는 디지털 아트웍의 픽셀을 미묘하게 변경하는 방식으로 작동한다. 이러한 변화는 사람의 눈에는 보이지 않지만, AI 모델이 학습하는 동안에는 상당한 영향을 미친다. 이 '독'은 보안 취약점을 악용하여 모델이 더 이상 사물을 정확하게 식별할 수 없을 정도로 혼란을 일으켜 예를 들어 자동차를 소로 바꿔 버린다.

 

균형 이동

 시카고 대학교의 교수이자 나이트셰이드의 개발자 중 한 명인 벤 자오는 저작권이 있는 데이터를 사용하여 모델을 학습시켜온 AI 회사로부터 균형을 바꾸고자 한다. Nightshade는 텍스트-이미지 AI 모델의 취약점을 노리고, 일반적인 기능을 공격하여 의미 있는 이미지를 생성할 수 없도록 만들어 불안정하게 만드는 것을 목표로 한다.

 

창의적인 트위스트: 글레이즈 통합

 이 파격적인 접근 방식에 관심이 있는 아티스트를 위해 나이트셰이드는 아티스트의 스타일을 숨길  수 있는 도구인 글레이즈와의 통합 기능을 제공한다. 예를 들어 사실적인 드로잉을 입체파의 그림으로 바꿀 수 있다. 아티스트는 '포이즌 필'을 사용할지 아니면 자신의 아트 스타일이 모방되지 않은 채로 만족할지 선택할 수 있다.

 

콘텐츠 크리에이터를 위한 최후의 방어책

 나이트셰이드의 제작자는 이 도구와 유사한 도구가 옵트아웃 규칙을 준수하지 않는 웹 스크레이퍼에 대한 콘텐츠 제작자의 "최후의 방어책"이 되어야 한다고 주장한다.

 

저작권과 AI 생성 콘텐츠의 회색 영역

 AI가 생성한 콘텐츠와 학습 데이터를 둘러싼 저작권 문제는 규제의 부재로 인해 회색지대로 남아 있다. 일부 아티스트는 자신의 작품을 무단으로 사용했다는 이유로 AI 플랫폼을 고소하는 등 소송이 진행 중이다. 그래서 Adobe와 같은 기업들은 AI가 생성한 콘텐츠에 표시를 하고 제작자를 식별할 수 있는 방법을 모색하고 있다.

 

구글과 마이크로소프트의 입장

 Google과 Microsoft와 같은 기업은 생성형 AI 제품 사용으로 인한 저작권 침해와 관련된 법적 문제에 직면하고 있지만, 이러한 제품의 대부분은 텍스트 기반이므로 AI 생성 예술의 영역은 아직 미지의 영역으로 남아 있다.