로블록스가 자사의 AI 안전 도구 3가지를 오픈 소스로 공개한다.
로블록스가 AI 안전 모델을 공개 소스로 노출했습니다. 이 모델들은 온라인 안전을 위한 독립적인 비영리 기관인 ROOST를 통해 제공됩니다. 로블록스는 PII Classifier, 로블록스 센티넬, 그리고 최신 음성 안전 분류기를 ROOST에 기여하고 있습니다. PII Classifier는 개인 식별 정보(PII)를 공유하거나 요청하는 시도를 식별합니다. 로블록스 센티넬은 잠재적인 어린이 위험의 초기 신호를 감지하며, 최신 음성 안전 분류기는 실시간 음성 채팅을 중재하고 있습니다. 이들은 이미 로블록스 플랫폼에서 운용 중이며, 다른 플랫폼도 이를 사용하여 자체 안전 도구를 훈련하고 조정할 수 있을 것으로 기대됩니다.
로블록스는 새로운 평가 데이터셋도 공개하면서 다른 기업이 그들의 안전 도구의 효과를 평가할 수 있도록 지원합니다. 이를 통해 30개 언어와 여덟 가지 위반 범주에서 중재를 지원하고 있습니다. 안전은 공동 책임이며 회사 한 곳만으로는 해결할 수 없다는 점을 강조하며, ROOST 커뮤니티의 학습과 피드백을 통해 자동 검색을 함께 발전시키기를 희망합니다.
로블록스는 최근에 아동 안전에 관한 논란에 휩싸였으며, 미국 상원 경찰 하위 위원회가 로블록스에 대한 조사를 벌이고 있는데, 플랫폼이 아동의 안전보다는 수익과 사용자 참여 지표를 우선시하는 것으로 보인다고 주장합니다. 로블록스는 아동 안전, 성적 또는 신체적 학대, 괴롭힘, 재정적 남용에 관한 기록을 2026년 8월 31일까지 제출하도록 요청받았습니다. 그동안 로블록스는 직접 메시징에 대한 제한, 전연령을 위한 전역 얼굴 인식 확인, "민감한 이슈" 콘텐츠 태그, 그리고 강화된 모더레이션 정책 등을 도입해왔습니다.
게임 소개: 로블록스는 광범위한 사용자들이 자신만의 게임을 만들고 공유할 수 있는 온라인 게임 개발 플랫폼으로, 블록체인과 유사한 시스템을 이용해 다양한 콘텐츠를 쉽게 구현할 수 있습니다. 복잡한 코딩 지식 없이도 창의력을 발휘하며 새로운 경험을 만들어낼 수 있어, 다양한 연령대의 사용자들에게 인기를 끌고 있습니다.
원문링크 : https://www.gamesindustry.biz/roblox-makes-three-of-its-ai-safety-tools-open-source
로블록스가 AI 안전 모델을 공개 소스로 노출했습니다. 이 모델들은 온라인 안전을 위한 독립적인 비영리 기관인 ROOST를 통해 제공됩니다. 로블록스는 PII Classifier, 로블록스 센티넬, 그리고 최신 음성 안전 분류기를 ROOST에 기여하고 있습니다. PII Classifier는 개인 식별 정보(PII)를 공유하거나 요청하는 시도를 식별합니다. 로블록스 센티넬은 잠재적인 어린이 위험의 초기 신호를 감지하며, 최신 음성 안전 분류기는 실시간 음성 채팅을 중재하고 있습니다. 이들은 이미 로블록스 플랫폼에서 운용 중이며, 다른 플랫폼도 이를 사용하여 자체 안전 도구를 훈련하고 조정할 수 있을 것으로 기대됩니다.
로블록스는 새로운 평가 데이터셋도 공개하면서 다른 기업이 그들의 안전 도구의 효과를 평가할 수 있도록 지원합니다. 이를 통해 30개 언어와 여덟 가지 위반 범주에서 중재를 지원하고 있습니다. 안전은 공동 책임이며 회사 한 곳만으로는 해결할 수 없다는 점을 강조하며, ROOST 커뮤니티의 학습과 피드백을 통해 자동 검색을 함께 발전시키기를 희망합니다.
로블록스는 최근에 아동 안전에 관한 논란에 휩싸였으며, 미국 상원 경찰 하위 위원회가 로블록스에 대한 조사를 벌이고 있는데, 플랫폼이 아동의 안전보다는 수익과 사용자 참여 지표를 우선시하는 것으로 보인다고 주장합니다. 로블록스는 아동 안전, 성적 또는 신체적 학대, 괴롭힘, 재정적 남용에 관한 기록을 2026년 8월 31일까지 제출하도록 요청받았습니다. 그동안 로블록스는 직접 메시징에 대한 제한, 전연령을 위한 전역 얼굴 인식 확인, "민감한 이슈" 콘텐츠 태그, 그리고 강화된 모더레이션 정책 등을 도입해왔습니다.
게임 소개: 로블록스는 광범위한 사용자들이 자신만의 게임을 만들고 공유할 수 있는 온라인 게임 개발 플랫폼으로, 블록체인과 유사한 시스템을 이용해 다양한 콘텐츠를 쉽게 구현할 수 있습니다. 복잡한 코딩 지식 없이도 창의력을 발휘하며 새로운 경험을 만들어낼 수 있어, 다양한 연령대의 사용자들에게 인기를 끌고 있습니다.
원문링크 : https://www.gamesindustry.biz/roblox-makes-three-of-its-ai-safety-tools-open-source
   |
진행중인 이벤트 3건  |
|
최신뉴스
리플
0건 l 1/0 페이지
리플쓰기
이모티콘
주사위
| 글번호 | 글제목 | 닉네임 | 글작성일 | 조회수 |
|---|
파멸도 
소멸의마검 
배고픈헝 
⠀김지훈 
오아이이즈 
구르륵민 
탄산은맥콜 
막튀긴치킨 
치킨지존 
전륜의창 
냥코대전쟁 
페이트 그랜드 오더 
원피스 트레저 크루즈 
점프 어셈블 
우마무스메 PRETTY DERBY 
리니지2 레볼루션 
원스휴먼 
등록순 최신순 댓글순