미국, 영국 및 기타 16개 국가가 AI를 “설계에 의한 보안”으로 만들기 위한 계약에 서명

미국, 영국 및 기타 16개 국가가 AI ‘안전한 설계’를 위해 손을 잡고 새로운 계약을 체결했습니다. 이는 원칙에 대한 기본 설명일 뿐이지만 미국 사이버보안 및 인프라 보안국(CISA)은 이것이 올바른 방향으로 나아가는 단계라고 언급했습니다.

AI는 지금보다 훨씬 더 안전해져야 하며, AI를 기반으로 하는 새로운 시스템 생성을 규제하는 법률이 필요합니다.

지금까지 우리는 두 숫자 사이의 백분율 계산과 같은 기본 작업부터 복잡한 답변에 이르기까지 AI의 여러 용도를 살펴보았습니다. AI의 응용 분야는 다양하며 우리가 생각해 낼 수 있는 숫자 범위 내에서 단순히 정의할 수는 없습니다. 모델에 매개변수가 많을수록 성능이 향상됩니다. AI가 2024년형 휴대전화의 기본 기능이 되면서 이는 중요해졌습니다.

보고서에는 이렇게 적혀 있습니다.

일요일 미국, 영국 및 기타 12개 이상의 국가는 미국의 고위 관리가 인공 지능을 악의적 행위자로부터 안전하게 보호하는 방법에 대한 최초의 상세한 국제 협약이라고 설명한 내용을 공개했으며, 기업이 “보안”이 보장되는 AI 시스템을 만들도록 촉구했습니다. 설계.”

일요일 공개된 20페이지 분량의 문서에서 18개 국가는 AI를 설계하고 사용하는 기업이 고객과 더 넓은 대중을 오용으로부터 안전하게 보호하는 방식으로 AI를 개발하고 배포해야 한다는 데 동의했습니다.

CISA 국장인 젠 이스터리(Jen Easterly)는 AI 개발이 안전 우선 접근 방식을 취해야 한다는 점을 국가가 이해하는 것이 얼마나 중요한지에 대해 이야기하고 다른 국가도 이에 동참할 수 있도록 독려했습니다.

Easterly는 로이터 통신과의 인터뷰에서 “이러한 기능이 단순히 멋진 기능과 이를 얼마나 빨리 시장에 출시할 수 있는지, 비용을 절감하기 위해 경쟁할 수 있는지에 관한 것만이 되어서는 안 된다는 확신을 본 것은 이번이 처음입니다”라고 말했습니다. “설계 단계에서 가장 중요하게 해야 할 일은 보안이라는 점에 동의합니다.”

독일, 이탈리아, 체코, 에스토니아, 폴란드, 호주, 칠레, 이스라엘, 나이지리아, 싱가포르도 협정에 서명했습니다. 한편, AI가 결국 위협이 되지 않도록 하기 위해 유럽은 새로운 AI 시스템의 개발 및 출시를 관리하는 특정 법률 작업을 시작할 예정입니다. 이는 EU에서 시스템을 구현하는 모든 회사가 사용자가 AI를 오용할 수 있는 취약점이 없는지 확인해야 함을 의미합니다.

AI의 사용이 중단되어서는 안 된다는 점은 부인할 수 없습니다. 특히 우리가 기술의 발전과 개선을 기대하고 어느 정도 일상생활에서 발전을 기대한다면 더욱 그렇습니다. 이번 합의는 훨씬 더 중요합니다. 동시에, 인공 지능의 사용을 규제하는 법률을 만드는 것은 쉬운 일이 아니며 실제로 결실을 맺기까지 수년이 걸릴 수 있다는 점을 이해하는 것이 중요합니다. 동시에, AI가 그 과정에서 개발할 능력을 갖게 될 것이라는 점을 깨달아야 합니다. 이는 현재 AI 모델에 적용되는 규정과 규칙을 만드는 것만으로는 동일한 모델이 더 많은 것을 학습한 몇 년 후에는 충분하지 않을 수 있음을 의미합니다.

뉴스 출처: 로이터