10월 11일 AI 브리핑: 엔비디아의 리플렉션 AI 협상과 나델라의 AI 비상 브레이크
핵심 요약
- 엔비디아, 오픈웨이트 AI 스타트업 리플렉션 AI 투자 논의
- 나델라 비상 브레이크 발언과 AI 통제 논의
- 중기부 국세청 지원과 포스코DX 투자 소식
본문
엔비디아가 미국 오픈소스 AI 스타트업 리플렉션 AI에 대한 추가 투자나 인수를 논의하고 있다고 파이낸셜타임스가 10일(현지시간) 보도했다. 협상은 초기 단계이며, 조선비즈에 따르면 회사를 통째로 인수하는 대신 핵심 연구인력 채용과 기술 사용권 확보 방안도 협상 대상에 올랐다. IT조선은 중국 기업들이 저렴한 오픈웨이트 모델로 시장을 넓히는 가운데 미국산 모델 개발을 지원하려는 움직임으로 분석했다.
마이크로소프트의 사티아 나델라 CEO는 고성능 AI 시스템에 사람이 언제든 작동을 멈출 수 있는 비상 브레이크와 독립적인 통제 장치가 필요하다고 주장했다. 보안 침해 가능성을 전제로 시스템을 설계해야 한다는 주문도 덧붙였다. 한편 AI타임스는 중국 AI 개발사가 출시 전에 안전성 검증 결과를 공개하는 비율이 1.1%, 나중 공개까지 합쳐도 3.6%에 그쳤다는 조사 결과를 전했다.
한국 금융권 해킹에 쓰인 것으로 지목된 중국산 AI 침투 테스트 도구 아르텍스가 공개 개발을 중단한다. IT조선에 따르면 개발자는 악용 사실을 인정하고 소스코드를 비공개로 전환하기로 했다. 국민일보는 이미 배포된 프로그램을 회수하기는 현실적으로 어려워 보안 위협이 남는다고 전했다.
중소벤처기업부와 국세청이 AI 중소기업과 스타트업 2559개사의 성장을 돕기 위해 정책지원과 세정지원을 연계한다. 벤처스퀘어에 따르면 창업 5년 이내 AI 스타트업은 정기 세무조사 선정에서 제외되고, 다른 AI 중소기업은 신청에 따라 최대 3년의 세무조사 유예를 받는다.
포스코DX가 AI 스타트업 인핸스에 20억원을 투자하고 업무 실행 특화형 AI 에이전트 구축을 위한 업무협약을 맺었다. 테크M에 따르면 인핸스는 온톨로지 기반 엔터프라이즈 AI 운영체제 에이전트OS를 개발한 스타트업이다.
카운터포인트리서치는 휴머노이드 로봇에 쓰이는 D램 수요가 2030년까지 올해의 20배 수준으로 늘 것으로 내다봤다. IT조선에 따르면 로봇 출하량이 늘고 로봇 한 대에 탑재되는 D램 용량도 두 배 이상 커질 것으로 예상되기 때문이다. 조선비즈는 HBM에 이어 로봇이 삼성전자와 SK하이닉스의 새 성장동력이 될 것이라고 전했다.
AI타임스에 따르면 사용자 평가 기반 AI 모델 평가 플랫폼 아레나가 2700억원 규모 투자를 유치하며 기업가치 4조원에 올랐다. 아레나는 AI의 안전성과 신뢰성을 측정하는 정렬 지수 분야로 사업을 넓힌다고 한다.
국민일보 단독 보도에 따르면 법원이 AI 사업을 위해 올해 확보한 예산 108억원을 9월까지 한 푼도 집행하지 않았다. 판결문과 소장 등 소송기록 724만여건을 AI 학습과 검색에 활용하는 사업이지만 별도의 개인정보 영향평가는 하지 않아 보호 대책이 부실하다는 지적이 나온다.
AI타임스는 뉴욕타임스를 인용해 메타가 안전 문제로 몇 달간 미뤄 온 AI 에이전트 뮤즈를 경쟁 압박 속에 서둘러 출시했다고 전했다. 스타트업 인스팅트가 결정에 영향을 미친 배경으로 꼽혔다.
출처
- IT조선: 엔비디아, 리플렉션 AI 추가 투자 논의… 미국산 오픈웨이트 AI 육성
- AI타임스: 엔비디아, 미국 오픈소스 대표 리플렉션 AI 인수·투자 확대 논의
- 조선비즈: 엔비디아, AI 스타트업 리플렉션 추가 투자·인수 검토…핵심 인력 확보도 논의
- AI타임스: 나델라 “AI에도 비상 브레이크 필요”...인간 통제·독립 감사 강조
- IT조선: 나델라 MS CEO “AI 모델 비상 브레이크 필요”
- 디지털투데이: 사티아 나델라 "AI 모델, 내부자 위험처럼 다뤄야...비상 브레이크도 필요"
- AI타임스: 중국 AI 모델 안전성 평가 공개율 3.6%...출시 전 공개는 고작 1.1%
- IT조선: 중국 AI 도구 아르텍스, 공개 개발 중단… 韓 금융권 악용 의혹
- 조선비즈: 韓 금융권 해킹에 쓰인 AI 도구 아르텍스, 결국 공개 중단
- 국민일보: ‘아르텍스 AI’ 개발 중단에도 보안 위협 여전…“대응 전략 전면 수정”
- 벤처스퀘어: 중기부·국세청, AI 스타트업 2559곳에 R&D부터 세무조사 유예까지 연계 지원한다
- 인공지능신문: 중기부·국세청, 2,559개 AI 중소·스타트업 집중 지원 ...“연계형 성장지원”으로
- 조선비즈: “AI 기업 세무 부담 낮춘다”…중기부·국세청 2559개사 지원
- 테크M: 포스코DX, 인핸스에 20억원 투자...온톨로지 기반 AI 역량 확보
- 조선비즈: 포스코DX, AI 스타트업 인핸스에 20억원 투자…산업용 AI 에이전트 개발
- 디지털데일리: 포스코DX, 온톨로지 기술로 에이전틱 AI 고도화…인핸스에 20억 투자
- IT조선: 휴머노이드 로봇 D램 수요, 2030년까지 20배 증가 전망
- 조선비즈: 휴머노이드 로봇 D램 수요, 2030년 20배 증가 전망…삼성·SK하이닉스 새 성장동력
- AI타임스: 아레나, 2700억 투자 유치…AI 안전성 평가 '정렬 지수' 도입
- 국민일보: [단독] 법원 AI 예산 108억 집행률 0%…개인정보 보호도 허술
- AI타임스: 저커버그, 경쟁 제품 압박에 안전 우려에도 ‘뮤즈’ 출시 강행