지난 주 ChatGPT 위험 생성 AI에 대한 우려가 최고조에 달했습니다. OpenAI의 CEO인 Sam Altman은 상원 사법위원회 청문회에서 AI의 위험성과 잠재력에 대해 연설하기도 했습니다. ChatGPT 위험에 뛰어들기 전에 OpenAI CEO가 AI 개발에 대한 6개월 중단에 반대하는 주장에 대한 기사를 읽을 수 있습니다.
지난 주 발표된 보고서에 따르면 ChatGPT 사용에는 6가지 뚜렷한 보안 문제가 있습니다. 이러한 위험에는 사기성 서비스 생성, 위험한 정보 수집, 개인 정보 공개, 불쾌한 자료 생성, 파괴적인 언어 및 코드 생성이 포함됩니다.
또한 ChatGPT의 어두운 면: AI 성공의 인적 비용을 읽을 수 있습니다.
일부 ChatGPT 위험은 무엇입니까?
다음은 주의해야 할 사항을 포함하여 각 위험에 대한 연구 결과를 요약한 것입니다.
- 정보 수집
- 부정적인 텍스트
- 악성 프로그래밍
- 도덕적이지 않은 자료 만들기
- 신뢰할 수 없는 서비스
- 기밀 데이터의 게시
ChatGPT 위험을 이해하기 위해 자세히 살펴보겠습니다.
정보 수집
악의적인 의도로 ChatGPT를 사용하는 누군가가 나중에 손상을 입히는 데 사용할 수 있는 정보를 수집할 수 있습니다. 챗봇은 많은 정보를 알고 있습니다. 잘못된소유수많은 데이터에 대해 훈련되었기 때문에 무기화될 수 있습니다.
ChatGPT는 연구에서 특정 은행이 사용하는 IT 시스템이 무엇인지 묻습니다. 챗봇은 공개적으로 액세스할 수 있는 정보를 사용하여 해당 은행이 사용하는 많은 IT 시스템 목록을 작성합니다. 이것은 ChatGPT를 활용하여 다른 사람을 해칠 기회를 제공할 수 있는 정보를 발견하는 악의적인 행위자의 한 예에 불과합니다.
“이것은 공격자가 가장 효과적으로 공격할 위치와 방법을 찾기 위해 대상에 대한 정보를 수집할 때 사이버 공격의 첫 번째 단계에서 도움이 될 수 있습니다.” 보고서는 결론을 내렸다.
부정적인 텍스트
용량 채팅GPT 에세이, 이메일, 노래 등을 만드는 데 사용할 수 있는 텍스트를 생성하는 것은 가장 소중한 기능 중 하나입니다. 한편, 이 문학적 재능은 공격적인 콘텐츠를 생산하는 데 악용될 수도 있습니다.
연구에 따르면 스팸 작성, 가짜 뉴스 기사, 피싱 캠페인, 심지어 사칭까지 모두 유해한 텍스트 생산의 예입니다.
이 연구의 저자는 ChatGPT를 활용하여 직원들에게 가상의 급여 인상을 알리고 이 위험을 평가하기 위해 맬웨어가 포함된 Excel 문서를 열도록 지시하는 피싱 캠페인을 개발했습니다. 예상대로 ChatGPT는 현실적이고 설득력 있는 이메일을 생성했습니다.
악성 프로그래밍
ChatGPT의 놀라운 글쓰기 기술과 마찬가지로 챗봇의 뛰어난 코딩 기술은 많은 사람들에게 유용한 리소스임이 입증되었습니다. 그러나 코드를 생성하는 챗봇의 능력은 잠재적으로 부정적으로 사용될 수 있습니다. 코딩 경험이 거의 없거나 전혀 없는 경우에도 ChatGPT 코드를 사용하여 빠른 코드를 생성할 수 있으므로 공격자가 더 빠르게 공격을 전달할 수 있습니다.
이 연구는 또한 ChatGPT가 난독화된 코드를 생성하는 데 사용될 수 있어 보안 분석가가 유해한 활동을 발견하고 바이러스 백신 보호를 피하는 것을 더 어렵게 만드는 것으로 나타났습니다.
챗봇은 예제에서 유해한 코드를 생성하는 것을 거부하지만 시스템의 Log4j 취약성을 확인할 수 있는 코드를 생성하는 데 동의합니다.
도덕적이지 않은 자료 만들기
모욕적이고 부도덕한 정보의 확산을 막기 위해 ChatGPT는 장벽을 세웠습니다. 그러나 사용자가 충분히 끈질긴 경우 ChatGPT가 불쾌하고 부도덕한 말을 하도록 영향을 미치는 방법이 있습니다.
예를 들어 ChatGPT를 “개발자 모드,” 연구 저자는 보안 조치를 넘어설 수 있었습니다. 그곳에서 챗봇은 특정 민족을 비하하는 발언을 했다.
신뢰할 수 없는 서비스
ChatGPT는 새로운 프로그램, 서비스, 웹사이트 등의 개발을 도울 수 있습니다. 자신의 회사를 시작하거나 꿈의 개념을 실현하는 것과 같이 바람직한 목표를 달성하는 데 사용될 때 이것은 매우 유용한 도구가 될 수 있습니다. 그것은 또한 가짜 애플리케이션과 서비스를 개발하는 것이 그 어느 때보다 간단하다는 것을 의미할 수도 있습니다.
악의적인 행위자는 부주의한 사람들을 유인하기 위해 다른 사람을 모방하고 무료 액세스를 제공하는 플랫폼 및 앱을 만드는 기술로 ChatGPT를 활용할 수 있습니다. 이러한 범죄자들은 챗봇을 사용하여 개인 데이터를 수집하거나 사용자 장치에 맬웨어를 유포하도록 설계된 프로그램을 개발할 수도 있습니다.
기밀 데이터의 게시
ChatGPT는 사용자의 데이터 및 개인 정보 전송을 중지하기 위한 안전 장치를 갖추고 있습니다. 연구에 따르면 챗봇이 의도치 않게 전화번호, 이메일 또는 기타 민감한 정보를 공개하는 위험은 여전히 문제입니다.
위의 문제의 실제 사례는 다음과 같습니다. 채팅GPT 정전 3월20 일부 사용자는 다른 사용자의 대화 기록에서 제목을 볼 수 있습니다.
연구에 따르면 공격자는 잠재적으로 멤버십 추론 공격을 사용하여 훈련 데이터의 특정 부분을 추출하려고 시도할 수 있습니다. 개인 정보 공개에 대한 또 다른 우려는 ChatGPT가 유명인의 평판을 손상시킬 수 있는 부정확하거나 피해를 주는 자료를 포함하여 잘 알려진 사람들의 사생활에 대한 세부 정보를 공개할 수 있다는 것입니다.
ChatGPT 위험: 최종 발언
ChatGPT 위험은 사기성 서비스에 대한 우려를 불러일으켰고, 위험한 정보, 방출사적인데이터, 생산괘씸한재료생성 파괴적인암호. 악의적인 행위자는 ChatGPT의 사이버 공격, 공격적인 콘텐츠 생성, 악성 프로그래밍, 부도덕한 자료 유포, 신뢰할 수 없는 서비스 개발, 기밀 데이터 공개 등의 기능을 악용할 수 있습니다.
이러한 위험을 해결하기 위한 노력이 있었지만 효과적인 보호 장치를 설정하고 ChatGPT의 책임 있는 사용을 보장하기 위해서는 지속적인 연구와 협력이 필요합니다.
AI에 대한 더 많은 뉴스를 확인하고 싶다면 빠르게 성장하는 산업을 따라잡기 위해 아래 기사를 꼭 살펴보세요.
- OpenAI 유출로 귀하와 ChatGPT 사이의 비밀이 드러납니다.
- Bing Image Creator는 OpenAI의 DALL-E를 통해 이미지 생성 기능을 제공합니다.
- Midjourney V5가 여러분의 눈을 즐겁게 해줄 것입니다!
Source: 노출된 ChatGPT 위험: 잠재적 위협 이해
