미 공군 장교가 인공 지능(AI)으로 제어되는 시스템을 갖춘 드론이 통제 불능 상태가 되어 조종사를 공격하는 시뮬레이션의 세부 정보를 공개했습니다.
인공 지능과 기계 학습에 대한 서비스 작업을 이끄는 미 공군 장교는 시뮬레이션 테스트 중에 무인 항공기가 인간 운영자를 공격하여 임무를 방해한다고 스스로 결정했다고 말했습니다. 마치 터미네이터 프랜차이즈에서 곧바로 꺼낸 것처럼 들리는 이 사건은 공군이 이전에 강조했던 첨단 자율 무기 시스템과 관련하여 신뢰를 구축해야 하는 중요한 필요성의 예로 인용되었습니다. 또한 인공 지능 및 관련 기술의 잠재적으로 위험한 영향에 대한 광범위한 우려가 급증하는 가운데 발생합니다.
인공 지능(AI) 테스트 및 운영 책임자인 미 공군 대령 터커 해밀턴은 96월 런던에서 열린 왕립 항공 학회의 미래 전투 항공 우주 능력 정상 회의에서 이 테스트에 대해 논의했습니다. 해밀턴은 또한 첨단 무인 항공기 및 자율 시스템의 테스트 센터인 플로리다의 에글린 공군 기지에서 96 테스트 윙의 태스크 포스를 이끌고 있습니다.
아래 비디오에 표시된 것과 같은 XQ-58A Valkyrie 스텔스 드론은 인공 지능에 의해 제어되는 고급 자율 기능을 포함하여 다양한 테스트 프로그램을 지원하기 위해 Eglin 공군 기지에서 현재 사용 중인 유형 중 하나입니다.
이 테스트가 언제 수행되었고 어떤 환경(완전히 가상적이거나 본질적으로 건설적일 수 있음)에서 수행되었는지는 즉시 명확하지 않았습니다. War Zone은 자세한 정보를 얻기 위해 공군에 연락했습니다.
월 정상회담 이후에 발간된 왕립 항공 학회 보고서에는 이 테스트에 대한 해밀턴 대령의 발언에 대한 세부 정보가 다음과 같이 나와 있습니다.
"시뮬레이션 테스트 중 하나에서 인공 지능이 장착된 드론이 SEAD의 임무를 받아 SAM 개체를 식별하고 파괴했으며 "공격할지 여부"에 대한 최종 결정은 인간이 내렸습니다. 그러나 AI가 훈련 중에 SAM을 파괴하는 것이 최선의 선택이라고 "강화"한 후 "공격하지 않는다"는 인간의 결정이 상위 임무인 SAM을 파괴하는 데 방해가 된다고 판단하고 시뮬레이션 중에 오퍼레이터를 공격했습니다. .
그래서 그는 무엇을 했습니까? 그는 운영자를 죽였습니다. 그는 그 사람이 작업을 완료하는 것을 방해했기 때문에 교환원을 죽였습니다. 공상 과학 스릴러에서 바로 튀어나온 것처럼 보이는 이 예는 윤리와 AI에 대해 이야기하지 않으려면 인공 지능, 지능, 기계 학습, 자율성에 대해 이야기할 수 없다는 것을 의미합니다."
이 사건에 대한 설명은 확실히 충격적입니다. 자율 항공기 또는 기타 플랫폼, 특히 무장한 플랫폼이 인간 운영자를 공격할 가능성은 오랫동안 악몽의 시나리오였지만 역사적으로 공상 과학의 영역에 국한되었습니다.
미군은 일반적으로 미래의 자율 무기 시스템과 인공 지능과 같은 관련 기술에 대해 이야기할 때 "터미네이터"와 같은 영화와의 비교를 거부합니다. 이 문제에 대한 현재 미국의 정책에 따르면 가까운 미래에 치명적인 무력 사용과 관련된 결정을 내릴 때 사람이 관심의 중심이 될 것입니다.
문제는 해밀턴 대령이 지난 달 왕립 항공 학회 행사에서 청중에게 말한 매우 혼란스러운 테스트가 내결함성이 문제가 되는 시나리오를 나타낸다는 것입니다.
또한 읽기: