[ad_1]
이번 주에 Microsoft, Adobe 및 기타 유명 기업은 AI 생성 이미지에 메타데이터를 추가하여 미래의 호환 앱이 특수 기호를 사용하여 해당 이미지를 기계로 만든 것으로 표시할 것이라고 약속했습니다.
아마도 일종의 AI 워터마크로 설명된 일부 보고서를 본 적이 있을 것입니다. 우리는 자세히 살펴보았습니다.
“투명성의 아이콘”으로 설명되는 기호는 거품과 같은 음성 표시 내부에 소문자 “cr”을 나타냅니다.
이는 기술 및 저널리즘을 포함한 산업 전반의 조직 그룹인 콘텐츠 출처 및 진위성 연합(C2PA)에 의해 만들어졌습니다. C2PA가 등장한 지 약 2년이 되었습니다. Adobe, Arm, Intel, Microsoft 및 Truepic이 주도하고 있습니다. 이미지의 메타데이터가 해당 이미지의 소스 및 편집 기록을 디지털 방식으로 안전하게 인증할 수 있는 방법을 자세히 지정합니다. 전통적인 이미지 메타데이터뿐만 아니라 대체 접근 방식도 있습니다. C2PA는 위의 유명 기업이 추진하는 접근 방식을 제공합니다.
실제로 C2PA의 콘텐츠 자격 증명 메타데이터를 모든 사진에 사용할 수 있습니다. AI로 생성할 필요는 없습니다. 콘텐츠 자격 증명 웹 사이트에 제공된 예는 Adobe의 Photoshop 및 Firefly AI 도구를 사용하여 제작되었으며 메타데이터를 통해 식별될 수 있습니다. Microsoft, Adobe 및 기타 업체가 약속한 것은 AI 생성기가 미래의 어느 시점에 기계로 제작된 사진에 암호화로 서명된 메타데이터를 포함하도록 보장하는 것입니다. 목표는 사진이 모델인지 사람이 만든 것인지, 그리고 어떻게 만든 것인지 사람들이 확인할 수 있는 방법을 제공하는 것입니다.
예를 들어, 마이크로소프트는 텍스트를 그림으로 변환하는 Bing Image Creator와 Bing AI 챗봇으로 제작한 작품에 언젠가는 해당 메타데이터가 포함될 것이라고 밝혔습니다.
이제 사양이 안전하고 강력하다고 가정할 때 까다로운 부분이 있습니다. 해당 메타데이터를 사진에 저장하는 것이 중요합니다. 사용자는 파일 내용을 자세히 조사하지 않고 어떻게 알 수 있나요?
콘텐츠 자격 증명 메타데이터를 이해하는 호환 가능한 애플리케이션이 필요합니다. 앱이 파일의 해당 데이터를 인식하는 경우 상단 모서리에 있는 이미지 위에 ‘cr’ 기호를 겹쳐야 합니다. 해당 기호를 클릭하면 사진 소스와 콘텐츠 자격 증명 메타데이터의 기타 세부 정보(예: Bing 또는 Photoshop을 통해 만들어진 경우)를 설명하는 위젯이 나타납니다.
그래야 사람들이 스냅의 출처를 쉽게 확인할 수 있다. 그러나 물론 콘텐츠 자격 증명을 지원하지 않는 애플리케이션에서 파일을 열면 기호가 표시되지 않습니다. 즉, 앱이 데이터를 이해하지 못하고 기호를 표시하지 않습니다.
앞서 언급한 콘텐츠 자격 증명 웹 사이트에서 우리가 의미하는 바를 확인할 수 있습니다. 그것을 열고 아래로 스크롤하여 AI가 만든 나비 예제를 찾아보세요. 웹페이지는 사진의 메타데이터를 구문 분석할 수 있는 애플리케이션에서 해당 이미지가 어떻게 보여야 하는지를 모형화합니다. 기호는 상단 모서리에 표시되며, 기호를 클릭하거나 탭하면 AI가 생성되었음을 알리는 라벨이 나타납니다. 라벨을 열지 않은 상태에서 페이지의 그림은 다음과 같습니다.
콘텐츠 자격 증명 웹 사이트에서 해당 나비 이미지를 마우스 오른쪽 버튼으로 클릭하고 나비 이미지를 디스크에 저장한 다음 오늘 Chrome과 같은 프로그램에서 열면 다음과 같이 표시됩니다.
기호 없이 그냥 평범한 이미지입니다. Chrome은 AI 생성 스냅에 있는 콘텐츠 자격 증명 메타데이터에 대해 알지 못하며 오버레이할 아이콘도 없습니다. 콘텐츠 자격 증명 확인 페이지로 이동하여 다운로드한 나비 이미지를 드롭하면 해당 이미지가 Adobe의 Firefly 1.0 AI 제품군에서 제작되었음을 알 수 있습니다.
이 기술과 그에 대한 상세하고 인상적인 사양은 메타데이터를 이해하고 지원하는 애플리케이션에 의존합니다. 그렇지 않으면 기호가 표시될 수 없거나 표시되지 않습니다. 그런 다음 누군가가 메타데이터를 제거하거나 메타데이터 없이 파일을 다른 형식으로 내보내거나 기호를 오버레이하지 않는 응용 프로그램에서 스크린샷을 찍은 다음 메타데이터가 없는 이미지를 배포할 수 있다는 사실이 있습니다. 나중에 콘텐츠 자격 증명을 이해하는 앱에서 제거된 사진을 열면 기호가 표시되지 않습니다.
이는 콘텐츠 자격 증명 데이터를 추가하고 읽을 수 있는 앱, 소셜 네트워크, 생성기 등이 필요할 뿐만 아니라 사람들이 아이콘을 찾아볼 수 있도록 아이콘을 인식해야 함을 의미합니다. 사진을 받거나 볼 때 콘텐츠 자격 증명 기호가 없으면 불신하게 될 수 있습니다. 그러기 위해서는 엄청난 양의 브랜드 인지도가 필요할 것입니다.
Adobe는 콘텐츠 자격 증명 클라우드가 있다고 밝혔으며 이는 다음과 같이 작동하는 것 같습니다. 이미지 파일의 메타데이터를 Adobe의 클라우드에 업로드합니다. 나중에 식별 가능한 메타데이터 없이 파일 중 하나를 다른 사람이 공유하는 경우 스냅을 배포하는 데 사용하는 것이 무엇이든 Adobe 클라우드에서 이미지를 실행하고 시각적 일치가 있는 경우 메타데이터를 복구할 수 있습니다.
생각해 보세요. Google 역방향 이미지 검색과 비슷하며 원본 메타데이터를 반환합니다. 이렇게 하면 누군가가 웹이나 앱을 통해 사진을 게시하려고 시도하고 모든 것이 제자리에 맞춰지면 사진의 출처가 명확해야 합니다. 게시하기 전에 메타데이터가 손실된 경우에도 콘텐츠 자격 증명에서 복구됩니다. 구름.
Adobe 대변인은 “디지털 콘텐츠가 콘텐츠 자격 증명(C2PA 개방형 표준 및 콘텐츠 자격 증명을 활용하는 플랫폼에서)으로 서명되면 변조 방지 메타데이터가 첨부되므로 콘텐츠가 어디를 가든지 함께 이동합니다.”라고 말했습니다. 레지스터.
“콘텐츠 수명주기의 어느 시점에서든 해당 정보가 악의적으로 또는 실수로 제거된 경우에도 Content Credentials Cloud를 통해 복구할 수 있습니다.”
적어도 Adobe는 그렇게 생각했습니다. 이제 우리는 사람들이 상징을 인식할 필요가 있습니다. 해당 기호를 지원하는 애플리케이션에 대해 아티스트와 생성자가 Adobe의 클라우드에 메타데이터를 제공하기 위해 온라인 게시자, 소셜 네트워크 및 기타 콘텐츠 호스트가 Adobe의 클라우드에 연결하고 누락된 콘텐츠 자격 증명 메타데이터를 복구하여 메타데이터가 없는 이미지를 식별할 수 있습니다. 휴!
또한 이미지를 처리할 수 있는 이미지 앱이 아직 없는 경우 호환되는 메타데이터 뷰어 또는 위의 콘텐츠 자격 증명 확인 도구를 사용하여 이미지를 직접 확인할 수 있다고 가정합니다.
Microsoft 대변인은 “Bing Image Creator의 모든 AI 생성 이미지는 콘텐츠 자격 증명을 사용하여 식별됩니다”라고 말했습니다. 레지스터. “콘텐츠 자격 증명이 이미지 옆에 나타나면 사용자는 눈에 보이지 않는 디지털 워터마크를 통해 원본 이미지의 시간과 날짜를 빠르게 확인할 수 있습니다.
“이 프로세스는 생성 프로세스 중에 자동으로 발생하며 C2PA 기술 요구 사항을 기반으로 합니다. 아이콘은 소비자가 콘텐츠를 인식할 수 있는 간단한 방법 역할을 합니다. Bing Image Creator의 경우 연말 이전에 아이콘이 배치될 것으로 믿습니다. ‘콘텐츠 자격 증명’이라는 단어 옆에 표시됩니다.”
프랑스 PR 및 광고 회사인 Publicis Groupe와 같은 다른 조직에서는 향후 Adobe에서 콘텐츠 자격 증명 메타데이터를 어떻게 사용할지 미리 볼 것으로 예상됩니다. 한편, 카메라 제조업체인 라이카 카메라(Leica Camera)와 니콘(Nikon)은 사진의 원본을 사진 작가의 스냅에 굽기 위해 미래의 장비에서 이 사양이 어떻게 사용될 것인지 시연할 예정입니다.
좋은 의도
연합에서는 이 모든 것이 네티즌을 속이기 위해 잘못된 정보를 퍼뜨리는 AI 생성 딥페이크를 막는 데 도움이 될 수 있다고 믿습니다. 우리의 견해로는 “cr” 아이콘이 저작권 기호만큼 보편적이게 된다면 이는 달성될 수 있습니다.
메타데이터는 적어도 브랜드와 기업이 광고 및 마케팅 캠페인에서 합성 이미지를 사용하는 것에 대해 더 쉽게 투명하게 만들 수 있다고 조직은 말했습니다. Adobe의 CAI(Content Authenticity Initiative) 수석 이사인 Andy Parsons는 함께 제공되는 정보 위젯이 사용자에게 “디지털 영양 라벨”과 같은 역할을 한다고 말했습니다.
“역사를 통틀어 시각적 도상학은 의사소통과 문화의 강력한 상징으로 작용해 왔습니다.”라고 그는 말했습니다.
“우리는 공식 콘텐츠 자격 증명 ‘투명성의 아이콘’이 온라인 문화 전반에 걸쳐 보편적인 표준과 기대가 되어 이 새로운 디지털 세계에서 신뢰를 기본 원칙으로 만드는 데 도움이 될 잠재력에 대해 매우 기쁘게 생각합니다. 우리는 콘텐츠 자격 증명을 계속 통합하기를 기대합니다. Adobe 제품과 솔루션 전반에 걸쳐 새로운 아이콘이 탄생했습니다.”
비록 이것이 올바른 방향으로 나아가는 단계임에 틀림없지만, 아이콘은 포괄적인 솔루션이 되는 것에서부터 인터넷상의 콘텐츠를 인증하고 AI 가짜와 진짜를 구별하는 것까지 갈 길이 멀다. 지금까지의 채택은 단지 약속된 것일 뿐이며 매우 유명하긴 하지만 소수의 지원으로 제한됩니다. 그리고 우리가 말했듯이, 이것이 효과적이려면 생성 AI 개발자, 소셜 미디어, 앱 제작자, 게시자를 포함한 더 많은 플랫폼이 이를 지원해야 합니다. ®
