Google AI의 요약은 검색 결과가 너무 "스마트"하기 때문에 위험 신호를 제기합니다.

Google 검색은 우리 모두가 거의 반사적으로 사용하는 도구이며, 그 동작의 변화는 우리가 온라인에서 정보를 찾는 방법에 큰 영향을 미칠 수 있습니다.

최근 Google은 일부 검색 결과에 AI 생성 요약이 포함되는 Google SGE 기능을 출시했습니다. 최근에는 일부 미국 사용자에게 영향을 미치는 제한된 출시AI 요약 결과를 제공하는 Google의 새로운 기능은 조정에 대한 우려 제기.

Google에서는 이 정보가 도움이 되도록 의도하고 있지만 이 요약에는 의도하지 않은 어두운 면. 우려되는 상승세가 있습니다 사기 및 악성코드 사이트 등장 이 AI 요약에서.

AI가 생성한 요약의 가장 큰 장점은 무엇입니까?

이 기능의 기본 아이디어는 매우 간단합니다. Google은 여러 웹사이트를 방문할 필요 없이 빠른 답변을 제공하기를 원합니다. “한 컵에 몇 스푼이 들어있나요”와 같은 일부 질문의 경우 AI 요약이 매우 유용할 수 있습니다. 그러나 때로는 AI가 생성한 답변이 불완전하거나, 오해의 소지가 있거나, 완전히 틀린 경우도 있습니다.

Instagram 비즈니스 계정을 만드는 방법은 무엇입니까?

더 걱정스러운 것은 그들이 가끔 위험한 콘텐츠를 적극적으로 홍보.

발견한 사람 X의 릴리 레이Google의 AI 기반 검색인 SGE는 답변의 일부로 스팸 사이트를 추천합니다.

오 좋네.
SGE는 답변의 일부로 스팸 사이트도 추천할 것입니다. pic.twitter.com/wqgFFXqbMB
— 릴리 레이 (@lilyraynyc) 2024년 3월 22일

이는 온라인 안전에 큰 영향을 미칩니다. 검색 엔진은 인터넷으로 연결되는 관문이며, 많은 사용자는 최고의 결과를 암묵적으로 신뢰합니다. 합법적인 답변처럼 보이는 AI 생성 요약은 사기에 추가적인 신뢰성을 부여할 수 있습니다.

사기에 합당한 요약을 위해 Google AI가 어떻게 속고 있습니까?

SEO(검색 엔진 최적화) 전문가와 덜 꼼꼼한 웹 사이트 소유자는 사이트 순위를 높이기 위해 오랫동안 검색 알고리즘을 조작해 왔습니다. 이제 동일한 기술이 해당 요약을 탈취할 목적으로 Google AI에 잘못된 정보를 제공하는 데 사용되고 있습니다.

이것이 어떻게 작동하는지에 대한 예는 다음과 같습니다.

사기 설정: 사기꾼은 대폭 할인된 iPhone과 같이 믿을 수 없을 만큼 좋은 거래를 제공하는 웹사이트를 만듭니다.
알고리즘 게임: 사이트가 가짜 리뷰와 기술적인 횡설수설로 가득 차 있더라도 관련성이 있는 것처럼 보이도록 고안된 키워드와 콘텐츠로 사이트를 채웁니다.
AI보다 똑똑하다: Google의 AI는 정보를 찾기 위해 사이트를 검색하지만 사기성 패턴을 놓치고 사이트가 훌륭한 리소스라고 생각하도록 속입니다.
위험한 요약: 누군가 해당 상품과 관련된 정보를 검색하면 AI가 해당 사기 사이트를 눈에 띄게 소개하는 요약을 생성합니다.

LG 롤러블: 롤러블 화면을 탑재한 LG 스마트폰 첫 모습

Google SGE 위험한 콘텐츠 — **위험한 콘텐츠를 홍보하는 AI 요약은 검색 결과에 대한 신뢰를 떨어뜨립니다.** (이미지 출처)

기계를 (완전히) 믿지 마세요

Google은 악의적인 콘텐츠를 감지하고 필터링하는 AI의 능력을 향상시키기를 희망하지만 위험을 인식하는 것이 중요합니다.

안전을 유지하는 방법은 다음과 같습니다.

소스를 다시 확인하세요.: AI 요약이 있어도 그것이 제안하는 웹사이트를 잠시 살펴보세요. 이상한 웹 주소(예: .online과 같은 특이한 최상위 도메인), 일반적인 사이트 디자인 또는 너무 비슷해 보이는 지나치게 많은 긍정적인 리뷰의 징후를 찾으세요.
전통적인 검색은 여전히 당신의 친구입니다: 표준 검색 결과를 스크롤하는 것을 완전히 버리지 마세요. 확립되고 평판이 좋은 사이트는 여전히 가장 정확한 정보를 제공하는 경우가 많습니다.
회의주의는 방패이다: 거래가 불가능할 정도로 좋아 보인다면 거의 확실히 그렇습니다. Google 요약에서 이를 지지하는 것처럼 보이더라도 사실이라고 하기에는 너무 좋은 제안에 휩쓸리지 마세요.