AI 비서가 우리의 당황스러운 업무 비밀을 비난하고 있다

기사 내용

기업 비서는 오랫동안 회사의 가십과 비밀을 지켜 왔습니다. 이제 인공 지능은 일부 작업을 대신하지만 재량권을 공유하지는 않습니다.

기사 내용

연구원이자 엔지니어인 Alex Bilzerian은 지난주 X에서 일부 벤처 캐피털 투자자들과 Zoom 회의를 마친 후 “AI 회의 도우미”가 포함된 전사 서비스인 Otter.ai로부터 자동 이메일을 받았다고 말했습니다. 이메일에는 Bilzerian이 로그오프한 후 투자자들이 회사의 전략적 실패와 조작된 지표에 대해 논의한 부분을 포함하여 회의 기록이 포함되어 있다고 그는 말했습니다. 워싱턴 포스트 X의 다이렉트 메시지를 통해.

이름을 밝히지 않은 투자자들은 이 사실을 알리자 “열심히 사과”했지만 피해는 이미 컸다. 회의 후 잡담으로 인해 Bilzerian은 거래를 중단하기로 결정했다고 그는 말했습니다.

기업들은 전반적으로 AI 기능을 업무 제품에 적용하고 있습니다. 가장 최근에 Salesforce는 고객이 영업 및 고객 서비스에 도움이 되는 AI 기반 가상 에이전트를 구축할 수 있게 해주는 Agentforce라는 AI 제품을 발표했습니다. Microsoft는 업무 제품군 전반에 걸쳐 AI Copilot의 기능을 강화해 왔으며 Google은 Gemini에서도 동일한 작업을 수행해 왔습니다. 직장 채팅 도구인 Slack도 게임에 참여하여 대화를 요약하고 주제를 검색하며 일일 요약을 작성할 수 있는 AI 기능을 추가했습니다. 그러나 AI는 인간처럼 공간을 읽을 수 없으며 많은 사용자는 중요한 설정을 확인하거나 자동화된 도구가 업무 생활의 많은 부분에 액세스할 때 어떤 일이 발생할 수 있는지 고려하지 않습니다.

기사 내용

Otter는 X에 대한 Bilzerian의 스레드에 응답하여 사용자가 “대화 공유 권한을 완전히 제어할 수 있으며 언제든지 대화 공유 권한을 변경, 업데이트 또는 중지할 수 있습니다. 이 특정 사례의 경우 사용자는 자동으로 다른 사람과 대화 내용을 공유하지 않거나 동일한 Workspace 도메인을 공유하는 사용자와만 대화를 자동 공유할 수 있는 옵션이 있습니다.

또한 사용자가 설정을 변경하는 방법을 보여주는 가이드 링크도 공유했습니다.

멋진 투자자들만이 새로운 AI 기능에 지쳐가는 것은 아닙니다. 일반 직원 역시 AI 기반 도구로 인해 해로운 정보를 기록하고 공유할 위험이 있습니다.

개인 정보 보호 옹호자이자 연구원인 나오미 브록웰(Naomi Brockwell)은 “기술이 너무 빠르게 확산되고 있는데 사람들이 그것이 얼마나 침해적인지 실제로 내부화하지 않았기 때문에 이것이 큰 문제라고 생각합니다.”라고 말했습니다. 브록웰은 지속적인 녹음과 AI 기반 전사의 결합이 직장에서의 개인 정보를 침해하고 소송, 보복 및 비밀 유출에 노출된다고 말했습니다.

기사 내용

기사 내용

추천 영상

죄송합니다. 동영상을 로드하지 못했습니다.

비디오 재생

때때로 AI 메모 작성자는 외부 귀에 전달되지 않는 순간을 포착합니다. 로스앤젤레스의 소프트웨어 디자이너인 Isaac Naor는 Zoom 회의 후 다른 참가자가 자신에 대해 이야기하기 위해 음소거하는 순간이 포함된 Otter 녹취록을 받은 적이 있다고 말했습니다. 그녀는 전혀 몰랐고 Naor는 너무 불편해서 그녀에게 말할 수 없었다고 그는 말했습니다.

회의를 녹음, 복사 및 요약하는 Otter의 AI 기능인 OtterPilot은 가상 회의의 오디오만 녹음합니다. 즉, 누군가 음소거되면 오디오가 녹음되지 않습니다. 그러나 사용자가 수동으로 녹음을 누르면 Otter는 마이크와 스피커에서 오디오를 수신합니다. 따라서 마이크가 대화를 들을 수 있다면 Otter도 마찬가지입니다.

AI 도구의 존재 자체가 회의를 불편하게 만드는 경우도 있습니다. 솔트레이크시티에서 소규모 이벤트 사업을 운영하는 Rob Bezdjian은 잠재 투자자들이 Otter를 통해 회의를 녹화하자고 주장한 후 어색한 전화 통화를 했다고 말했습니다. Bezdjian은 자신의 독점 아이디어가 기록되는 것을 원하지 않았기 때문에 자신의 사업에 대한 일부 세부 정보 공유를 거부했습니다. 거래가 성사되지 않았습니다.

기사 내용

Otter가 녹취록을 공유하는 경우 회의 참석자들은 녹음이 진행 중이라는 알림을 받게 된다고 회사는 밝혔습니다. 누군가 OtterPilot을 사용하는 경우 참석자는 회의 챗봇이나 이메일을 통해 알림을 받고 OtterPilot이 다른 참가자로 표시됩니다. 자신의 캘린더를 Otter 계정에 연결한 사용자는 자동 공유 설정을 “모든 이벤트 손님”으로 전환하여 기록을 누른 후 자동으로 회의 메모를 공유할 수도 있습니다.

OtterPilot은 등록 중에 사용자가 제공하는 정보와 함께 사용자가 업로드하는 가상 회의, 텍스트, 이미지 또는 비디오의 자동 스크린샷을 수집합니다. Otter는 필요한 경우 Otter, 광고 파트너 및 법 집행 기관에 백엔드 지원을 제공하는 AI 서비스를 포함한 제3자와 사용자 정보를 공유합니다.

기사 내용

마찬가지로 Zoom의 AI Companion 기능은 모든 참석자에게 회의 요약을 보낼 수 있습니다. 회의가 녹화 중이거나 Companion이 사용 중일 때 참가자는 알림을 받고 반짝이는 아이콘이나 녹화 배지를 볼 수 있습니다. Zoom의 기본 설정은 회의 호스트에게 요약을 보내는 것입니다.

두 회사 모두 원치 않는 공유를 피하기 위해 사용자가 설정을 조정해야 한다고 말했습니다. Otter는 또한 회의에서 도구를 사용할 때 동의를 요청할 것을 “강력히 권장”합니다. 기억하세요: 모든 참가자에 대해 자동 공유 설정이 켜져 있으면 모든 사람은 자신이 참석한 부분뿐만 아니라 전체 녹화된 회의의 세부 정보를 받게 됩니다.

기사 내용

그러나 AI가 업무에 미치는 영향을 연구하는 노스웨스턴 대학교 켈로그 경영대학원 부교수 하팀 라만(Hatim Rahman)은 AI 제품이 업무에서 예상치 못한 결과를 초래하지 않도록 보장하는 책임은 사용자 못지않게 기업에도 있다고 믿습니다.

“다양한 연령대와 기술 능력을 갖춘 사람들이 이러한 제품을 사용할 것이라는 점을 기업이 인식해야 합니다.”라고 그는 말했습니다. 사용자는 AI가 참석자가 회의를 떠날 때를 알아야 하므로 녹취록의 해당 부분을 보내지 않아야 한다고 가정할 수 있습니다. “아주 합리적인 가정이군요.”

사용자는 시간을 들여 기술에 익숙해져야 하지만 회사는 제품에 더 많은 마찰을 만들어 일부 참석자가 회의 중간에 나가는 경우 주최자에게 전체 기록을 받아야 하는지 확인하도록 요청할 수 있습니다. .

기사 내용

사이버 보안 컨설턴트인 Will Andre는 전사적 AI 도구를 구현하기로 결정한 경영진이 위험에 대해 잘 알지 못하는 경우가 너무 많다고 말했습니다. 마케터로서의 이전 경력에서 그는 상사가 다가오는 정리해고 라운드에서 누가 해고될 것인지 결정하는 영상을 우연히 본 적이 있습니다. 화상 회의를 녹화하는 소프트웨어는 복사본을 회사의 공개 서버에 자동으로 저장하도록 구성되었습니다. (그는 그것을 본 적이 없는 척 하기로 결정했다.)

Andre는 “직원으로서 직장 내에서 이러한 기술의 일부 사용에 대해 이의를 제기하는 것이 항상 가능한 것은 아닙니다.”라고 말했습니다. 그러나 그는 직원들이 잃을 것이 가장 많다고 지적했다.

기사 내용