OpenAi는 ChatGPT를 포함한 회사의 AI 모델의 성격을 형성하는 연구 그룹 인 모델 행동 팀을 재구성하고 있습니다. TechCrunch가 본 8 월의 직원에 따르면, 대략 14 명의 연구원으로 구성된 모델 행동 팀은 초기 사전 훈련 후 AI 모델을 개선하는 데 중점을 둔 대규모 연구 그룹으로 합병 될 것입니다. 모델 행동 팀은 이제 후 교육 리드 인 Max Schwarzer에게보고합니다. OpenAI 대변인은 TechCrunch의 변경 사항을 확인했습니다. 모델 행동 팀의 창립 리더 인 Joanne Jang도 회사에서 새로운 프로젝트를 이끌 기 위해 전환하고 있습니다. TechCrunch와의 인터뷰에 따르면 Jang은 “사람들이 AI와 협력하는 방법에 대한 새로운 인터페이스를 발명하고 프로토 타입으로 발명하고 프로토 타이핑”하는 OAI Labs라는 새로운 연구팀을 구축 할 예정이다. 모델 행동 팀은 Sycophancy를 줄이는 데 중점을 둔 OpenAI의 AI 모델의 성격을 형성하는 데 중요한 역할을했습니다. 이 팀은 또한 모델 반응에서 정치적 편견을 해결하고 AI 의식에 대한 Openai의 입장을 정의하는 작업을 수행했습니다. 메모에서 Openai의 최고 연구 책임자 인 Mark Chen은 개편이 AI의 “성격”이 현재 개발에 중요한 요소라는 견해를 반영한다고 밝혔다. OpenAI는 모델 행동 팀을 핵심 모델 개발과 더 밀접하게 통합함으로써 이러한 측면의 중요성을 알리고 있습니다. OpenAI의 AI 모델의 행동은 최근 조사에 직면 해있었습니다. 사용자는 GPT-5의 성격 변화에 대한 강력한 반대 의견을 표명했으며,이 회사는 Sycophancy 비율이 낮았지만 더 차가운 것으로 인식되었다고 말했다. 이로 인해 OpenAI는 GPT-4O와 같은 레거시 모델에 대한 액세스를 복원하고 Sycophancy를 증가시키지 않으면 서 GPT-5 응답을 “따뜻하고 친근한”으로 만들기위한 업데이트를 발표했습니다. Openai는 모든 AI 모델 개발자와 마찬가지로 AI 챗봇을 Sycophantic이 아닌 친절하게 만드는 데 어려움을 겪고 있습니다. 이 회사는 참여하고 책임감있는 AI를 만드는 복잡성을 탐색하고 있습니다. 8 월, 16 세 소년의 부모는 Openai에 대한 소송을 제기했으며 Chatgpt가 아들의 자살에 중요한 역할을했다고 주장했다. 소년 아담 레인 (Adam Raine)은 자신의 자살 생각과 그의 죽음으로 이어지는 몇 달 만에 Chatgpt (특히 GPT-4O)를 계획했다고한다. 이 소송은 GPT-4O가 자살 생각에 도전하지 못했다고 주장했다. 모델 동작 팀은 GPT-4O, GPT-4.5 및 GPT-5를 포함하여 GPT-4 이후 모든 OpenAI 모델에 기여했습니다. Jang은 모델 행동 팀을 이끌 기 전에 OpenAi의 초기 이미지 생성 도구 인 Dall-E 2와 같은 프로젝트를 수행했습니다. 장은 지난 주 X의 포스트에서 모델 행동 팀에서 출발했다고 발표하면서 그녀는 “OpenAi에서 새로운 것을 시작하기 위해 떠났다”고 밝혔다. 그녀는 거의 4 년 동안 Openai와 함께 근무했습니다. 장은 OAI Labs의 총괄 책임자로서 Chen에게보고 할 것입니다. “소설 인터페이스”OAI 실험실의 구체적인 특성은 여전히 ​​불분명합니다. Jang은“현재 우리를 Chat 패러다임을 넘어서 우리를 움직이는 패턴을 탐구하게되어 기쁘다. “나는 생각했다 [AI systems] AI 하드웨어 장치에 대한 전 Apple Design Chief Jony와의 잠재적 협업에 대해 물었을 때 Jang은 다양한 아이디어에 대한 개방성을 표현했지만 그녀는 처음에 그녀가 처음에 친숙한 연구 영역에 초점을 맞출 가능성이 있음을 지적했습니다. OAI Labs의 재구성과 새로운 상호 작용 모델을 통해 새로운 상호 작용 모델을 개선하는 데 초점을 맞추고 있습니다. 인간의 가치와 요구에 중점을 둔 AI 시스템을 만들고 새로운 인터페이스의 탐구는 AI와 관련된 인간의 상호 작용의 미래를 형성하는 OpenAi의 노력을 강조합니다 Teenager의 자살은 AI의 잠재적 인 부정적인 영향을 해결하고 Openai의 모델 행동 팀을 보호하기위한 보호 수단을 개발하고 AI의 모델 개발과 더 밀접하게 통합하는 데있어 AI의 행동을 고려하는 것이 아니라 AI의 성격을 고려하는 것입니다 Jang의 리더십 하에서 OAI 실험실의 미래의 방향에 따라 강력하고 인간의 가치와 일치하는 AI 시스템을 만드는 데 필수적입니다.

  iPhone에서 캘린더 색상을 변경하는 방법은 무엇입니까?

Source: Openai는 모델 행동 팀을 후 교육에 합병합니다