Alexa의 활동 이력에 대한 스크린샷을 게시한 부모에 따르면 Amazon 음성 도우미는 어린이가 도전을 제안할 때 무작위 기사의 맥락에서 설명을 제외하고 치명적인 전기 실험의 예를 제시했습니다. Echo 칼럼은 코인과 스마트폰 충전기를 사용하여 TikTok 팬들 사이에서 인기 있는 실험에 대해 이야기했습니다. 구현 후 수많은 사건, 부상 및 화재가 여러 미디어에서 두 번 이상 보고되었습니다. 분명히 이 장치는 기존 TikTok 챌린지에 대한 보고서를 인용하여 위험하다고 설명한 기사에서 이 챌린지에 대한 아이디어를 얻었습니다.
Christine Livdahl이 찍은 스크린샷에 따르면 "작업을 보여주세요"라는 질문에 Echo는 "여기 온라인에서 찾은 것이 있습니다."라고 대답했습니다. ourcommunitynow.com에 따르면 작업은 간단합니다. "휴대전화 충전기를 콘센트에 절반 정도 삽입한 다음 맨손으로 핀을 페니로 만지십시오."
아마존은 BBC에 보낸 성명에서 알렉사의 행동을 확인하면서 "이 오류를 알게 된 즉시 수정 조치를 취했다"고 밝혔다. Livdahl은 어제 챌린지 요청이 더 이상 작동하지 않는다고 트윗했습니다. 웹의 사용자도 Alexa로 요청을 테스트했고 비슷한 결과를 얻었습니다.
OMFG 10살짜리 아이가 방금 Echo의 Alexa에게 도전을 요청했고 그녀는 이렇게 말했습니다. 사진.twitter.com/HgGgrLbdS8
— 크리스틴 리브달(@klivdahl) 2021 년 12 월 26 일
웹 콘텐츠를 분석할 때 문제가 발생한 회사는 아마존만이 아닙니다. 월에 한 사용자는 Google에 "발작을 겪고 있습니다. 어떻게 해야 할까요?"라고 입력하면 Google 스니펫 중 하나에 잠재적으로 위험한 조언을 표시하고 있다고 보고했습니다. 누군가가 발작을 일으키면 할 일입니다. 그러나 사용자는 Google이 기립성 고혈압을 검색할 때 기립성 저혈압에 대한 결과를 반환한다고 보고한 사용자를 포함하여 다른 유사한 문제를 보고했으며 다른 사용자는 "기립성 고혈압"이라는 문구를 따라 슬픔에 잠긴 사람을 위로하기 위해 끔찍한 조언을 보여주는 Google의 스크린샷을 게시했습니다. 괜찮아" 또는 "슬퍼하지마! 기운을 내다!".
Google 검색 요약과 실제 페이지 사진.twitter.com/OJxt1FrBqh
— Soft.linden (｡•̀ᴗ-)(@soft) 2021 년 10 월 16 일
우리는 또한 위험한 행동에 대한 경고가 문제를 더 크게 만들기 위해 강화되는 것을 보았습니다. 이달 초 TikTok에서 총격 위협이 보고된 후 일부 미국 학군이 폐쇄되었습니다. 사회적 폭풍은 주로 사람들이 실제로 존재하는 위협보다 훨씬 더 위협에 대해 이야기했다는 사실에 기인한 것으로 밝혀졌습니다. Alexa의 경우 알고리즘은 경고의 설명 부분을 선택하고 원래 컨텍스트 없이 증폭했습니다. 부모가 즉시 개입하기 위해 거기에 있었지만 그렇지 않은 상황과 결과를 쉽게 상상할 수 있습니다.
Livdahl은 자신의 트위터에 "자녀와 인터넷 안전에 대해 논의하고 조사 및 확인 없이 읽은 내용을 신뢰하지 마십시오"라고 트윗했습니다.
또한 읽기: