-
- 헝그리앱 등록일(수정) : 2026-08-06 10:30:35
-
[기타] 엔비디아·AI 업계 리더, 사이버보안 투명성 강화 위한 SAFE 가이드라인 제안
//web.hungryapp.co.kr/news/news_view.php?durl=YmN...
신고
엔비디아가 최근 미국 라스베이거스에서 개최된 블랙햇 연례 콘퍼런스에서 중요한 발표를 했다.
오픈 시큐어 AI 얼라이언스 회원사들이 AI 사이버보안을 강화하기 위한 새로운 가이드라인을 개발하고 있다고 밝혀졌다. 이 가이드라인은 SAFE(Shared AI Findings Exchange)를 통해 에이전틱 AI 사이버보안 사고에서 얻은 정보를 보호하는 공동의 방어 체계로 전환하기 위한 제안이다.
SAFE 가이드라인은 오픈 시큐어 AI 얼라이언스 회원사들과 리눅스 재단이 협력해 마련하고 있으며, AI 관련 사고와 아차 사고를 기밀로 수집·분석하고, 시스템 전반의 위험을 줄이기 위한 운영 권고안을 발표할 예정이다. 이를 통해 AI에이전트의 속도에 맞춰 신속하게 대응하는데 있어 협력이 얼마나 중요한지를 강조하고 있다.
또한, 엔비디아는 오픈 시큐어 AI 얼라이언스를 통해 AI 보안 스택 전반에서 확장된 오픈 소스 도구를 개발하고 공유하고 있다. 이에는 AI 에이전트를 보호하기 위한 다양한 도구와 기술이 포함되어 있으며, 각 스킬은 이식 가능한 명령어 세트로 제공되어 보안 담당자들이 특정 에이전트 스킬의 기능과 출처를 정확히 확인할 수 있도록 도와준다.
이러한 노력을 통해 AI 사이버보안 도구를 확대하는 오픈 시큐어 AI 얼라이언스는 보안 커뮤니티가 지식을 공유하고 서로 협력함으로써 더욱 강력한 보안을 구축할 수 있다는 것을 강조하고 있다. 엔비디아의 오픈 소스 거대 언어 모델 취약점 스캐너인 가락(Garak)을 통해 데이터 유출과 프롬프트 인젝션, 탈옥 시나리오를 점검할 수 있게 되었으며, 이를 통해 보안팀이 모델을 출시하기 전에 안전성을 확인할 수 있다.
마지막으로, 엔비디아는 AI를 지원하는 데이터와 인프라가 복원력과 복구 가능성을 유지할 수 있도록 지원하는 Veeam의 카니스터(Kanister)를 소개하며, 에이전트 시스템이 장애 상황에서도 안전하게 복구할 수 있도록 하는 노력을 계속하고 있다.
이러한 엔비디아의 노력은 AI 보안 기술의 발전과 보안 커뮤니티의 협력을 통해 더욱 안전한 온라인 환경을 조성하고자 하는 데에 있어 중요한 역할을 하고 있다.
SAFE 가이드라인은 오픈 시큐어 AI 얼라이언스 회원사들과 리눅스 재단이 협력해 마련하고 있으며, AI 관련 사고와 아차 사고를 기밀로 수집·분석하고, 시스템 전반의 위험을 줄이기 위한 운영 권고안을 발표할 예정이다. 이를 통해 AI에이전트의 속도에 맞춰 신속하게 대응하는데 있어 협력이 얼마나 중요한지를 강조하고 있다.
또한, 엔비디아는 오픈 시큐어 AI 얼라이언스를 통해 AI 보안 스택 전반에서 확장된 오픈 소스 도구를 개발하고 공유하고 있다. 이에는 AI 에이전트를 보호하기 위한 다양한 도구와 기술이 포함되어 있으며, 각 스킬은 이식 가능한 명령어 세트로 제공되어 보안 담당자들이 특정 에이전트 스킬의 기능과 출처를 정확히 확인할 수 있도록 도와준다.
이러한 노력을 통해 AI 사이버보안 도구를 확대하는 오픈 시큐어 AI 얼라이언스는 보안 커뮤니티가 지식을 공유하고 서로 협력함으로써 더욱 강력한 보안을 구축할 수 있다는 것을 강조하고 있다. 엔비디아의 오픈 소스 거대 언어 모델 취약점 스캐너인 가락(Garak)을 통해 데이터 유출과 프롬프트 인젝션, 탈옥 시나리오를 점검할 수 있게 되었으며, 이를 통해 보안팀이 모델을 출시하기 전에 안전성을 확인할 수 있다.
마지막으로, 엔비디아는 AI를 지원하는 데이터와 인프라가 복원력과 복구 가능성을 유지할 수 있도록 지원하는 Veeam의 카니스터(Kanister)를 소개하며, 에이전트 시스템이 장애 상황에서도 안전하게 복구할 수 있도록 하는 노력을 계속하고 있다.
이러한 엔비디아의 노력은 AI 보안 기술의 발전과 보안 커뮤니티의 협력을 통해 더욱 안전한 온라인 환경을 조성하고자 하는 데에 있어 중요한 역할을 하고 있다.
유진호 기자 ([email protected])
   |
진행중인 이벤트 2건  |
|
최신뉴스
- 1
- 0
- 0
- 1
- 0
- 0
리플
2건 | 1/1 페이지
+5 
+5 
리플 페이지 이동 1 리플쓰기
link추천 퀵 링크
-
냥코대전쟁 -
페이트 그랜드 오더 -
원피스 트레저 크루즈 -
점프 어셈블 -
우마무스메 PRETTY DERBY -
리니지2 레볼루션 -
원스휴먼
냥코대전쟁 
페이트 그랜드 오더 
원피스 트레저 크루즈 
점프 어셈블 
우마무스메 PRETTY DERBY 
리니지2 레볼루션 
원스휴먼 
등록순 최신순 댓글순