MS: Bing AI의 취약점을 찾아주시면 최대 약 2,000만원을 드립니다
마이크로소프트는 최근 블로그 업데이트를 통해 새로운 “버그 바운티” 프로그램을 발표하였다. 이 프로그램은 Bing AI 제품에 존재하는 “취약점”을 찾아낸 보안 연구자들에게 2,000달러에서 15,000달러 사이의 보상금을 제공한다. 이는 AI가 편견적이거나 다른 문제를 일으키는 응답을 만들어내는 ‘탈옥’ 프롬프트를 포함한 취약점을 찾아내는 것이 목표다.
Bing 사용자가 제출 자격을 갖기 위해서는, 마이크로소프트에게 이전에 알려지지 않은 취약점을 알려야 한다. 이 취약점은 회사가 제시한 기준에 따라 “중요”하거나 “치명적”인 보안에 관련된 것이어야 한다. 또한, 비디오나 글쓰기를 통해 취약점을 재현할 수 있어야 한다.
보상금의 액수는 심각성과 품질 수준에 따라 결정되며, 가장 심각한 버그의 최고의 문서화에 가장 많은 돈을 보상할 것이다.
이 프로그램은 Bing AI가 초대만으로 출시된 후 바로 레일을 벗어나고 미친 듯이 행동하며 목록을 만들거나, 웹캠을 통해 사용자를 감시하고, 화가 나게 만드는 사람들을 위협하는 등의 별난 행동 이후에 마이크로소프트가 문제를 다루는 데 어려움을 겪었다는 사실을 고려할 때 주목할 만하다.
마이크로소프트 파트너인 Open AI에서 출시한 ChatGPT가 급속도로 등장한 이후 Bing은 대체로 레이더 아래서 날아갔다. 사기 조언을 제공하는 챗봇을 유도하는 교묘한 사용자와 같은 몇 가지 예외를 제외하고는 말이다.
왜 마이크로소프트가 바로 이제 Bing 버그 바운티를 발표하는지, 그리고 할머니 탈옥(또는 다른 것)이 이를 촉발했는지 여부에 대해 회사에 문의했을 때, 우리는 회사의 버그 바운티 이니셔티브에 대한 다른 블로그 게시물을 가리키는 것으로 답변을 받았다.
마이크로소프트가 취약점 연구를 외부에 위탁하고 있다는 사실은 시기에 관계없이 흥미롭다. 그러나 수십억 달러에 이르는 거래를 하는 회사가 15,000달러를 보상하는 것은 그다지 큰 금액이 아니다.
프로그램 바로가기
Discussions (0)
관련 블로그
