바이든 행정명령: 미국이 AI를 길들이려는 방법

CChatGPT8
3 Min Read

[ad_1]

조 바이든 미국 대통령이 AI의 안전한 개발을 위한 새로운 지침을 발표했다.

조 바이든 미국 대통령이 AI의 안전한 개발을 위한 새로운 지침을 발표했다.

게티 이미지를 통한 AFP

조 바이든 미국 대통령이 발표한 인공지능에 대한 행정명령은 AI 안전과 보안 규제에 있어 리더십을 보여주는 것을 목표로 하고 있지만, 대부분의 후속 조치에는 미국 국회의원들의 조치와 ​​기술 기업들의 자발적인 선의가 필요할 것입니다.

Biden의 행정 명령은 광범위한 미국 정부 기관에 공개 전에 잠재적인 AI 취약성을 조사하기 위해 국립 표준 기술 연구소(National Institute of Standards and Technology)가 “레드 팀 테스트”에 대한 벤치마크를 설정하는 것을 포함하여 AI 시스템 테스트 및 사용에 대한 지침을 개발하도록 지시합니다.

뉴욕 코넬대학교의 사라 크렙스(Sarah Kreps)는 “이번 행정 명령과 이에 대한 백악관의 논의 내용은 AI 규제를 해결하는 데 가장 공격적이고 적극적으로 여겨지는 것에 대한 관심을 시사한다”고 말했습니다.

크렙스는 영국 정부가 AI 정상회담을 소집하기 직전에 바이든의 행정명령이 나온 것은 아마도 “우연이 아닐 것”이라고 말했다. 그러나 그녀는 미국 의회가 이를 뒷받침할 초당적 법안과 자원을 마련하지 않는 한 행정명령만으로는 큰 영향을 미치지 않을 것이라고 경고했는데, 이는 2024년 미국 대선 기간 동안에는 그럴 가능성이 낮다고 봅니다.

이는 AI에 대한 바이든 행정부의 구속력 없는 조치 추세를 따른다. 예를 들어 지난해 정부는 AI 권리장전 청사진을 발표했고, 최근에는 주요 기업들에게 자발적인 서약을 요청했다. AI를 개발하고 있다고 이탈리아 볼로냐 대학교의 Emmie Hine은 말합니다.

Biden의 행정 명령 중 잠재적으로 영향을 미칠 수 있는 부분 중 하나는 “국가 안보, 국가 경제 안보 또는 국가 공중 보건 및 안전에 심각한 위험”을 초래하는 경우 기초 모델(거대한 데이터 세트에서 훈련된 대규모 AI 모델)을 다룹니다. 이 명령은 국방생산법(Defense Production Act)이라는 또 다른 법안을 사용하여 이러한 AI를 개발하는 회사가 훈련 과정에 대해 연방 정부에 알리고 모든 레드팀 안전 테스트 결과를 공유하도록 요구합니다.

이러한 AI에는 ChatGPT 뒤에 있는 OpenAI의 GPT-3.5 및 GPT-4 모델, 회사의 Bard AI 챗봇을 지원하는 Google의 PaLM 2 모델, 이미지를 생성하는 Stability AI의 Stable Diffusion 모델이 포함될 수 있습니다. Hine은 “모델이 작동하는 방식에 대해 매우 폐쇄적인 기업이 블랙박스를 열도록 강요할 것입니다.”라고 말합니다.

그러나 Hine은 미국 정부가 어떤 기초 모델이 “심각한 위험”을 초래하는지 정의하는 방법에 관해서 “악마는 세부 사항에 있다”고 말했습니다. 마찬가지로 Kreps는 행정 명령 문구의 “한정어와 모호성”에 대해 의문을 제기했습니다. 이 문서에서는 “기반 모델”을 어떻게 정의하는지, 위협의 자격을 누가 결정하는지에 대해 명확하지 않습니다.

또한 미국에는 유럽연합과 중국에서 볼 수 있는 강력한 데이터 보호법이 아직 부족합니다. 유사한 법률이 AI 규정을 뒷받침할 수 있다고 Hine은 말합니다. 그녀는 중국이 생성 AI나 얼굴 인식 사용과 같은 “AI의 특정 측면을 다루는 표적화된 수직적 법률”을 구현하는 데 중점을 두고 있다고 지적했습니다. 반면 유럽연합은 AI의 모든 측면을 포괄하는 광범위한 수평적 접근 방식에 대해 회원국 간 정치적 합의를 도출하기 위해 노력해 왔습니다.

“[The US] 가지고있다 [AI] 개발이 중단되기는 했지만, 뒷받침할 구체적인 규제가 많지 않습니다.”라고 Hine은 말합니다. “그것이 가지고 있는 것은 ‘민주적 가치를 지닌 AI’에 대한 강력한 성명과 동맹국과 협력하겠다는 합의입니다.”

주제:

Share this Article
Leave a comment

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다