블레츨리 파크 AI 서밋 2023: G7 국가들이 AI 행동 강령에 동의

CChatGPT8
9 Min Read

[ad_1]

G7 국가들은 인공지능 규제를 위해 협력하기를 열망하고 있습니다.

쿠로세 유키/AP/Alamy

이번 주 영국 총리 리시 수낙(Rishi Sunak)은 재계와 정치계 대표 100명을 초대하여 인공 지능의 잠재력과 함정에 대해 논의할 예정입니다.

영국 블레츨리 파크(Bletchley Park)에서 열리는 AI 안전 서밋(AI Safety Summit)은 11월 1일에 시작되며 수낙(Sunak)과 AI 분야 주요 인물이 선호하는 용어인 “프론티어 AI 모델”을 개발하고 배포하기 위한 일련의 글로벌 원칙을 마련하는 것을 목표로 합니다. 아직 존재하지 않지만 조만간 구축될 수 있는 강력한 모델을 업계에 공급하고 있습니다.

블레츨리 파크(Bletchley Park) 이벤트가 중심이기는 하지만, 영국에서는 AI에 대한 영국 정부의 발표와 함께 더 폭넓은 주간 이벤트가 개최되고 있습니다. 최신 개발 사항은 다음과 같습니다.

G7, AI 행동 강령 및 원칙에 동의

글로벌 커뮤니티의 구성원들은 영국 정상회담이 열리는 주가 자체 AI 개발을 발표할 수 있는 적기라고 결정했습니다. 어제 발표된 조 바이든 미국 대통령의 AI 행정 명령과 함께 G7 산업 국가 그룹은 생성적 AI 모델 개발을 위한 행동 강령과 일련의 지도 원칙에 동의하는 공동 성명을 발표했습니다.

이번 합의문은 영국 정상회담이나 미국 행정명령에서 예상되는 내용과 크게 다르지 않습니다. AI 도구를 개발할 때 조직이 “적절한 조치를 취”하도록 강요합니다. 편견과 차별과 같은 “AI 수명주기 전반에 걸쳐 위험을 식별, 평가 및 완화”합니다.

외교에 대해 조금 아는 사람이라면 누구나 글로벌 합의가 우연이 아니라는 것을 알고 있습니다. 그리고 Mozilla 재단의 Deb Raji는 적절한 조치가 취해지는 것을 보고 기뻐하고 있습니다. “이것은 정책 입안자들의 시선을 사로잡고 이것이 포괄적인 방식으로 규제되어야 하는 기술이라는 사실을 그들에게 경고하는 방식으로 주류가 되었습니다.”라고 그녀는 말합니다. 그녀는 특히 생성 AI 도구보다는 모든 AI에 초점을 맞추길 원하지만 뭔가 일어나고 있다는 사실에 기뻐합니다.

영국, 12개의 AI 훈련 센터 지정

하룻밤 사이에 영국 정부는 AI 분야에서 “기술 자금을 1억 1,800만 파운드 증액”한다고 발표했습니다. 이는 완전히 사실이 아닙니다. 이 중 12개 AI 박사 과정 센터에 배정된 1억 1,700만 파운드가 지난 달 발표되었습니다. 영국으로 이주하기를 원하는 선도적인 AI 연구자들을 위해 영국으로 이주하는 데 드는 비용을 완화하는 데 도움이 될 AI 미래 보조금 제도에 대한 새로운 자금 100만 파운드가 있습니다.

하지만 새로운 점은 12개 박사과정 수련원의 위치와 전문성입니다. 몇 가지를 나열하자면, 옥스퍼드 대학교는 환경에 초점을 맞추고, 에든버러 대학교는 책임감 있고 신뢰할 수 있는 자연어 처리에 노력하고 있으며, 노섬브리아 대학교는 시민 중심의 렌즈를 통해 AI를 살펴볼 것입니다.

영국이 AI 인재를 유치하려는 유일한 국가가 아니라는 점은 주목할 가치가 있습니다. 어제 미국 행정 명령에는 AI 전문가에 대한 엄격한 미국 이민법을 완화하기 위한 유사한 조항이 포함되었습니다.

정상회담 비판으로 프린지 이벤트 시작

어제 우리는 블레츨리 파크 정상회담에 초청된 시민사회 대표가 부족하다는 점을 강조했습니다. 그러나 그들이 손님 명단에 없었다고 해서 그들이 자신의 목소리를 내지 않는다는 의미는 아닙니다.

언론의 관심을 끌기 위해 다양한 비공식 부대 행사도 진행되고 있습니다. 10월 30일, 캠페인 그룹인 The Citizens는 People’s AI Summit을 개최했습니다. 여기서 로스앤젤레스 캘리포니아 대학의 Safiya Umoja Noble은 앞으로 일어날 일에 대한 걱정에 대해 이야기했습니다. 노블 작가님이시네요 억압의 알고리즘그녀는 AI가 차별과 억압만을 증폭시킬 것을 두려워한다고 말했습니다.

“증거가 너무 많아 [of bias] 여기요”라고 그녀는 행사에서 말했다. “지금 우리 앞에 놓인 더 큰 질문은 다음과 같습니다. 왜 우리는 이러한 기업과 그들의 리더십에 맞서고 책임을 물을 도덕적 성격과 용기가 부족한 공무원이 있습니까? 우리는 수십억 명의 사람들에게 영향을 미칠 결정을 내리는 지구상의 아마도 천 명에 대해 이야기하고 있습니다.”

블레츨리 파크에서 열리는 AI 서밋에 누가 참석하며, 그들이 왜 중요한가요?

서밋의 게스트 목록에 대한 우려에도 불구하고 기술 분야에서 매우 주목받는 참석자가 있습니다. 그 중 일부는 다음과 같습니다:

요슈아 벤지오, 제프리 힌튼(Geoffrey Hinton), 얀 르쿤(Yann LeCun)과 함께 ‘AI의 대부’로 불리는 캐나다의 컴퓨터 과학자. Google에서 근무했던 Hinton이나 Meta에서 근무했던 LeCun과 달리 Bengio는 전통적으로 빅테크의 손아귀에서 벗어나 현재 캐나다 몬트리올 대학의 교수로 재직하고 있습니다.

엘론 머스크 소개가 거의 필요하지 않지만 그는 이번 정상회담에서 중추적인 역할을 할 예정입니다. 특히 그가 목요일 X에서 실시간 스트리밍 대화에 출연할 Sunak의 귀를 기울였기 때문입니다. 이는 머스크가 영국 정부가 컨퍼런스를 중심으로 계획하고 있는 사교 행사의 주요 손님이 된 것에 대한 대가로 보입니다. Musk는 여기에서 읽을 수 있는 xAI를 실행합니다.

닉 클레그 한때 영국의 부총리였지만 이후 Meta의 고위직이 되었습니다. 그는 정상회담에서 정치와 기술 분야에 종사했던 시절의 두 가지 관점을 제시할 예정입니다.

다음에 온다

우리는 정상회담의 목표와 목적을 위해 이틀간 기대와 끝없는 칼럼을 쏟아부었지만, 내일이면 기다림은 끝났습니다.

영국의 기술 장관인 미셸 도넬런(Michelle Donelan)은 생물 테러와 사이버 보안, AI에 대한 통제력 상실, AI의 사회 통합 등의 잠재적 위험에 초점을 맞춘 참석자들 간의 원탁 토론을 통해 절차를 시작할 예정입니다. 이전에 강조했던 AI의 환경 영향에 대해서는 아직 논의할 계획이 없습니다.

우리는 토론에서 가십거리가 쏟아질 것으로 예상하고 있습니다. 새로운 과학자의 Matthew Sparkes가 지상에서 파견을 보낼 것입니다.

이전 업데이트, 10월 30일

10월 26일 영국 총리 리시 수낙(Rishi Sunak)이 인공지능에 관한 연설을 하고 있다.

게티 이미지를 통한 Tolga Akmen/EPA/Bloomberg

영국 정부 챗봇 테스트

영국 정부는 시민들이 세금, 학자금 대출 및 혜택에 대해 가질 수 있는 질문에 답할 수 있는 Gov.uk Chat이라는 대규모 언어 모델 챗봇을 테스트하고 있다고 합니다. 전신.

Gov.uk Chat은 Gov.uk 웹사이트에 호스팅된 수백만 페이지에 대한 교육을 제공하며 여기에는 주택, 이민 및 세금에 대한 조언이 포함됩니다. 챗봇에 대한 개인정보 보호정책에는 다음과 같이 나와 있습니다. “GOV.UK Chat은 검색 기능과 유사하게 사용자가 GOV.UK에서 정보를 탐색할 수 있도록 돕기 위해 설계되었습니다. 따라서 사용자에게 답변을 제공하려면 제공해야 하는 모든 데이터가 필요합니다. 가장 정확한 답변입니다.”

그러나 신문은 챗봇이 시민의 개인 데이터에 대해 훈련을 받지 않을 것이며 사용자는 데이터 프라이버시 문제를 위해 그러한 정보를 챗봇과 공유하지 말라는 메시지를 받게 될 것이라고 보도했습니다. 파일럿 프로젝트는 이미 기업을 대상으로 테스트 중이며 성공할 경우 곧 대중에게 공개될 수 있습니다.

AI 헬스케어를 위한 £100m 기금 발표

Sunak은 의료 분야의 AI 도구 개발을 촉진하는 것을 목표로 하는 1억 파운드 기금을 발표했습니다. AI 생명과학 가속기 임무는 실험실 테스트에 수년을 소비하는 대신 AI를 사용하여 잠재적 치료법과 신약을 조사함으로써 암을 치료하고 치매 발병을 늦추는 노력에 중점을 둘 것입니다.

학계, 산업계, 일선 임상의 등이 곧 초대되어 이 계획에 따른 자금 지원 프로젝트를 제안하게 될 것입니다. “안전하고 책임감 있는 AI는 의료 분야에서 가능한 일의 판도를 바꿔 혁신적인 새로운 치료법, 진단 도구, 작업 방식의 발견과 적용 사이의 격차를 줄여 임상의가 환자와 더 많은 시간을 보낼 수 있게 해줄 것입니다.” 영국 과학기술부 장관 미셸 도넬런(Michelle Donelan)은 성명을 통해 이렇게 말했습니다.

정상회담에서 업계 장악 경고

블레츨리 파크 서밋의 게스트 목록이 제한되어 있어 누락된 사람들은 업계의 행사 포착에 대한 우려를 제기했습니다. 정상회담에 모인 100명의 사람들에 대해 같은 숫자가 수낙에게 “AI의 가장 큰 영향을 받는 지역 사회와 노동자들이 정상회담으로 인해 소외됐다”고 경고하는 공개 서한에 서명했습니다.

이 서신은 정상회담을 앞두고 의제와 토론이 업계의 이해관계에 의해 너무 지배될 것이라는 많은 학계의 우려를 반영했습니다. “제가 두렵고 의심하는 것은 남성들이 주도하는 회의가 될 것이라는 점입니다. 이들 중 다수는 공익을 수호할 자격이 없는 금전적 이해관계를 갖고 있으며, 거대 기술을 불편하게 만들지 않는 장기적인 위험에 초점을 맞출 것입니다. 기업이 AI를 설계하고 구현하는 방식을 바꾸도록 강요하는 피해를 주기보다는”라고 서한의 서명자 중 한 명이 아닌 옥스퍼드 대학의 Carissa Véliz는 말했습니다.

다음에 온다

참관인들은 누가 정상회담 참석자의 최종 명단을 작성하는지 지켜볼 것입니다. 로이터 수낙이 속한 보수당 사람들이 중국의 참여를 금지하라는 일부 요청에도 불구하고 중국이 과학 기술부 차관을 파견하고 있다고 보고했습니다.

우리는 영국 정부가 더 많은 발표를 할 것으로 기대하고 있습니다. 하지만 조 바이든 미국 대통령이 오늘 백악관에서 AI에 초점을 맞춰 발표한 행정 명령과 경쟁해야 할 것입니다. 카말라 해리스 미국 부통령도 블레츨리 파크 정상회담에 참석할 예정이다.

폴리티코행정명령 초안을 본 문서의 범위는 모든 연방 기관이 AI 최고 책임자를 임명하도록 강요하고 있으며, 그의 임무는 AI 차별이 정부 부서에 암호화되지 않도록 하는 것입니다. 감독하다.

주제:

Share this Article
Leave a comment

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다