보안/DDoS 뉴스

[HaruIDC] 위험한 AI를 누가 멈출 것인가, 앤트로픽과 오픈AI의 서로 다른 해법

앤트로픽은 캘리포니아 법무장관에게 위험한 모델의 중단을 요구하는 법원 명령을 청구할 권한을 부여하자고 제안했고, 오픈AI는 개발사에 의무적인 셧다운 제어 구축과 실제 가동을 요구하는 방안을 선호했다.

[HaruIDC] 위험한 AI를 누가 멈출 것인가, 앤트로픽과 오픈AI의 서로 다른 해법 더 읽기"

[HaruIDC] 모델 라우팅으로 추론 비용 줄인다…데이터브릭스·MS·엔비디아·스노우플레이크 앞다퉈 도입

데이터브릭스, 마이크로소프트, 엔비디아, 스노우플레이크와 같은 업체는 비용, 품질 또는 전반적인 시스템 성능을 최적화하기 위해 각기 다른 모델 라우팅 구현을 제공한다. 주의할 점은 파레토 함정이다.

[HaruIDC] 모델 라우팅으로 추론 비용 줄인다…데이터브릭스·MS·엔비디아·스노우플레이크 앞다퉈 도입 더 읽기"

[HaruIDC] AI 에이전트에 필요한 것은 기억이 아닌 ‘신뢰할 수 있는 상태’

AI 에이전트는 자신이 환불을 요청한 적이 있음을 기억할 수 있다. 그러나 실제로 환불이 이뤄졌는지 여부는 기록 시스템(system of record)만이 확인할 수 있다. 안전한 동작을 위해서는 현재 시점에서 무엇이 사실인지를 알아야 한다.

[HaruIDC] AI 에이전트에 필요한 것은 기억이 아닌 ‘신뢰할 수 있는 상태’ 더 읽기"