AI 뉴스웨이브나델라 MS CEO, AI에 비상 브레이크와 독립 통제 필요 주장
핵심 요약
- AI에 사람이 쓰는 비상 브레이크 필요
- 보안 침해 가능성을 전제로 한 설계 주문
- 독립적인 통제 장치 마련 강조
본문
사티아 나델라 마이크로소프트 CEO가 고성능 AI 시스템에 사람이 언제든 작동을 멈출 수 있는 비상 브레이크를 마련해야 한다고 주장했다. 디지털투데이는 10일(현지시간) CNBC 보도를 인용해 나델라 CEO가 소셜 미디어 X에 올린 글이라고 전했다.
AI타임스에 따르면 나델라 CEO는 AI 모델의 판단을 무조건 신뢰하기보다 오작동이나 보안 침해 가능성을 전제로 시스템을 설계해야 한다고 강조했다. IT조선도 보안 침해 가능성을 전제로 설계해야 한다는 주장이라고 전했다. 디지털투데이는 AI 모델을 내부자 위험처럼 다뤄야 한다는 표현을 제목에 내세웠다.
AI타임스는 나델라 CEO가 독립적인 통제 장치도 필요하다고 강조했다고 전했고, 디지털투데이는 AI 시스템을 격리할 수 있어야 한다는 취지로 보도했다.