인공지능이 빠르게 발전하고 있지만 구글의 이미지 인식 시스템은 8년 동안 존재해 온 고릴라 이미지 감지에 여전히 어려움을 겪고 있는 것으로 보인다.
소프트웨어 엔지니어인 Jacky Alciné는 2015년 회사의 사진 앱에 포함된 이미지 인식 알고리즘이 자신과 친구의 사진을 고릴라로 잘못 식별했다는 사실을 발견하고 비난을 받았습니다. 둘 다 알시네 그리고 그의 동반자는 검은색. 구글은 겁에 질려 프로그램이 고릴라 사진에 라벨을 붙이는 것을 막음으로써 인종 차별적 실수를 신속하게 수정했습니다.
이 문제는 8년이 지난 지금도 적절하게 수정되지 않았습니다. 사용자는 고양이와 캥거루와 같은 다양한 동물 종으로 이미지를 검색할 수 있었지만 고릴라, 비비, 침팬지, 오랑우탄 또는 원숭이로는 검색할 수 없었습니다. 뉴욕 타임즈 실험.
영장류의 이미지는 여전히 사진 앱. 회사가 문제를 해결할 수 없는지 또는 기능을 구현하는 것이 너무 논쟁적이거나 위험한지 여부는 확실하지 않습니다. 흥미롭게도 이 버그는 Microsoft의 OneDrive 스토리지 소프트웨어에도 영향을 미쳤으며 애플의 사진 앱하지만 아마존사진 종종 다른 동물을 고릴라로 잘못 식별합니다.
알시네 Google이 아직 문제를 해결하지 못한 것에 대해 실망감을 표시했습니다. 나는 이 AI를 절대 신뢰하지 않을 것”이라고 말했다.
OpenAI는 민주적 AGI 제어를 촉진합니다.
OpenAI의 비영리 부문은 평범한 사람들이 AI의 발전에 영향을 미칠 수 있는 민주적 시스템을 만드는 방법에 대한 혁신적인 제안을 하는 사람들에게 총 100만 달러를 기부하겠다고 약속했습니다.
6월 2일까지 누구나 제안서를 제출할 수 있습니다. 최고의 10개의 제출물은 AI 스타트업에 의해 선택되며 각 우승자에게는 $$가 수여됩니다.100,000 컨셉에 대한 프로토타입 개발을 시작할 수 있습니다.
이번 주 OpenAI는 블로그 게시물에서 “AGI는 모든 인류에게 혜택을 주고 가능한 한 포괄적으로 설계되어야 합니다.”라고 말했습니다. “이 시상 프로그램은 그 방향의 첫 걸음으로 시작되고 있습니다. 우리는 AI 시스템이 준수해야 하는 규범에 대한 우려를 해결할 수 있는 민주적 절차에 대한 개념 증명을 만들기 위해 전 세계에서 팀을 찾고 있습니다.
OpenAI에 따르면 보조금은 실험이며 회사는 개념을 사용할 수도 있고 사용하지 않을 수도 있습니다. 이 회사는 법의 서문을 준수함으로써 항상 잘 처리되지 않는 문제에 대해 광범위한 사람들의 피드백을 장려하는 접근 방식에 끌렸습니다.
“예를 들어, 다양한 그룹이 공인에 대한 다양한 관점을 가지고 있다는 점을 고려할 때 AI 시스템은 어떤 상황에서 그러한 사람들을 비난하거나 비판해야 합니까?
AI 출력물에서 서로 다른 의견을 어떻게 표현해야 합니까? AI는 지구상의 평범한 사람, 사용자의 국가, 인구 통계 또는 기본적으로 완전히 다른 페르소나를 나타내야 합니까? 누구도, 기업 또는 국가가 이러한 판단을 내릴 권한을 가져서는 안 된다고 말했습니다.
시리즈 C 투자에서 Anthropic이 4억 5천만 달러를 모금했습니다.
부분적으로 전 OpenAI 직원이 설립한 AI 비즈니스인 Anthropic은 Spark Capital이 주도한 가장 최근의 자금 조달에서 4억 5천만 달러를 확보했습니다.
구글, 세일즈포스벤처스, 사운드벤처스, 줌벤처스 등 투자자들이 시리즈C 투자를 지원하고 있다. Anthropic의 광범위한 언어 모델인 Claude는 새로운 소비자를 등록하는 데 사용되고 있습니다. 에 따르면 CEO 다리오 아모데이자금은 추가 항목을 개발하는 데 사용됩니다.
“이러한 존경받는 투자자와 기술 회사가 AI 연구를 수행하고 안전을 향상시키는 솔루션을 개발하려는 Anthropic의 목표를 지원하게 되어 기쁩니다. 우리가 개발하고 있는 솔루션은 현재와 미래 모두에 소비자와 기업에 도움이 될 신뢰할 수 있는 AI 서비스를 제공하기 위한 것입니다.
Anthropic은 AI 정렬 방법을 사용하여 챗봇이 지침을 따르고 수용 가능한 답변을 제공하도록 지시함으로써 더 안전한 상품을 만드는 것이 목표라고 말했습니다. 최근에는 Claude의 컨텍스트 창의 토큰 지원을 100,000개로 늘려 한 번에 수백 페이지의 문서를 분석할 수 있도록 했습니다.
Google AI 검색 엔진에 가입하는 방법을 알고 싶습니까?
