회사에서 ChatGPT 사용이 제한되는 이유 분석

August 4, 2023
1516 Views

챗봇의 널리 퍼진 채택과 인공지능(AI)의 업무장소로의 통합으로 많은 직원들이 자신들의 일상적인 일정에 ChatGPT와 같은 도구를 통합하고 있습니다. 그러나, 일부 회사들은 잠재적 위험과 우려로 인해 ChatGPT의 사용에 대해 점점 더 신중해지고 있습니다. 결과적으로, 회사들은 ChatGPT와 다른 제 3자 AI 언어 모델의 사용에 대한 금지와 제한을 시행하고 있습니다.

설문조사

Fishbowl이라는 커리어 기반의 소셜 네트워킹 앱에서 진행한 설문조사에 따르면, 응답자들 중 43%가 자신의 업무 루틴에서 ChatGPT를 사용하고 있으며, 이는 아마존, IBM, Meta, 트위터 등의 유명한 회사들을 포함하고 있습니다. 또한 설문조사는 직원들이 AI 도구를 자신들의 일에 사용하는 것에 대해 상사에게 말했는지 여부를 물었고, 응답자들 중 68%가 그렇지 않았습니다.

기술 회사들의 우려

주요 기술 회사들은 자신들의 직원들이 ChatGPT와 같은 제 3자 생성 AI를 사용하는 것을 금지하기 시작했습니다.

삼성은 내부 네트워크와 장치에서 ChatGPT와 다른 AI 도구를 금지하는 것으로 주목을 받았습니다. 이 제한은 삼성 직원 전용의 새로운 AI 도구 개발로 이어졌습니다.

아마존 역시 개발자들에게 ChatGPT를 금지했습니다. 그 이유는 일부 응답과 내부 회사 데이터 간의 유사성을 들어, 직원들에게 자체 AI인 CodeWhisperer를 사용하도록 지시했습니다.

최근에는 애플이 내부 정보를 챗봇과 공유하는 것을 두려워하여 직원들이 ChatGPT를 사용하는 것을 제한했습니다.

다른 부문에서의 금지

기술 회사 외에도 다른 부문들도 ChatGPT 사용에 대한 우려를 표명하였습니다.

호주 연방은행은 기술 팀에서 ChatGPT를 사용하는 것을 금지하였고, 직원들에게 자체 도구인 CommBank Gen.ai Studio를 사용하도록 지시하였습니다.

Bank of America, Citigroup, Deutsche Bank, Goldman Sachs, Wells Fargo & Co, 그리고 JP Morgan과 같은 다른 유명한 은행들도 OpenAI 챗봇의 사용을 영구적으로 금지하였습니다.

로이터 설문조사에 따르면, 미국, 영국, 캐나다의 400개 법률 사무소에서 15%의 법률 전문가들이 업무에서 ChatGPT의 사용에 대한 경고를 받았습니다.

왜 ChatGPT 사용이 금지되는가?

ChatGPT 사용이 금지되는 이유는 몇 가지 우려 때문입니다. 이러한 우려로는:

AI 언어 모델과 민감한 정보를 공유함으로써 발생할 수 있는 보안 및 데이터 개인 정보 보호 문제에 대한 우려
엄격한 규제가 있는 산업에서 법률 및 준수 문제가 발생함
AI 언어 모델에 의해 발생할 수 있는 오류나 오해로 인해 브랜드 평판과 고객 신뢰를 유지하는 것은 다른 요인임
부적절하거나 불쾌한 응답을 포함하여 생성된 내용에 대한 제어 부족도 다른 걱정임
회사는 AI 언어 모델을 오용하거나 남용하여 오정보를 퍼뜨리거나 비윤리적인 활동에 참여하는 것을 방지하려고 함

전체적으로, 이러한 우려로 인해 회사들은 ChatGPT의 사용을 금지하고 있습니다.

ChatGPT의 개인 정보 보호 개선

회사 비밀 정보에 대한 우려에 대응하여 OpenAI는 4월에 중요한 업데이트를 발표하여 익명 모드를 도입했습니다. 이 모드는 사용자와의 대화 기록을 저장하지 않으며, 사용자 데이터가 ChatGPT 훈련에 저장되는 것을 방지합니다. 이 조치는 도구 사용 중에 더 큰 개인 정보 보호와 보안을 보장하기 위한 것입니다.

OpenAI는 조직 사용자를 위해 특별히 설계된 새로운 구독 모델인 ChatGPT Business를 도입할 계획이라고 발표했습니다. 이 모델은 사용자에게 데이터에 대해 더 직접적인 제어를 제공하는 것을 목표로 하고 있습니다. OpenAI는 ChatGPT Business가 기본적으로 모델 훈련에 사용자 데이터를 사용하지 않도록 회사의 API 데이터 사용 정책을 준수할 것이라고 확신시켰습니다. 회사는 가까운 미래에 이 구독 모델을 출시할 계획이며, 몇 달 내로 이용 가능할 것으로 예상하고 있습니다.

결론

다양한 부문의 회사들이 ChatGPT 사용을 금지하는 것은 기밀 정보 유출 가능성에 대한 우려를 반영합니다. 삼성, 아마존, 애플 등 주요 기술 회사와 금융 기관 및 의료 부문 등은 자신들의 데이터와 내부 정보를 보호하기 위해 조치를 취하고 있습니다.

반면 OpenAI는 익명 모드와 같은 개인 정보 보호 개선 사항을 도입하여 이러한 우려에 대응하고 있으며, 위험을 최소화하기 위해 노력하고 있습니다. 기업 환경에서 생성 AI를 사용하는 미래는 효율성과 보안 사이의 균형을 찾아내고, 정보의 기밀성을 침해하지 않으면서 기술의 이점을 활용하는 방법을 찾아내는 데 달려있습니다