곧 ChatGPT의 ‘값’을 선택할 수 있고 지저분해질 것입니다.

ChatGPT를 공개적으로 실험한 지 두 달이 지난 후 OpenAI는 사용자가 챗봇의 가치를 맞춤화할 수 있도록 하기로 결정했습니다.

ChatGPT로 구동되는 Bing Chat은 이미 다음과 같이 표시되는 출력에 대한 경보를 발생시켰습니다. 우울하고, 방어적이며, 부러워하고, 인간 대군주를 두려워합니다.. 엘론 머스크 어제 트윗 Bing Chat의 보고된 횡설수설에 대해 다음과 같이 말합니다.

또한: ChatGPT보다 더 강력하다: Microsoft, 새로운 AI 개선 Bing 및 Edge 브라우저 공개

머스크가 만든 OpenAI 2015년에 비영리 단체로 설립 도움, 사용자가 값을 ‘정의’할 수 있도록 허용하여 ChatGPT의 동작을 조정할 수 있다고 발표했습니다. 그만큼 Microsoft 지원 회사 또한 이것은 일부 사람들이 불쾌감을 줄 ChatGPT 내뿜는 텍스트를 볼 것으로 예상합니다.

“우리는 AI가 개인에게 유용한 도구여야 하고 따라서 사회가 정의한 한계까지 각 사용자가 사용자 정의할 수 있어야 한다고 믿습니다. 따라서 사용자가 행동을 쉽게 사용자 정의할 수 있도록 ChatGPT로 업그레이드를 개발하고 있습니다.” OpenAI는 블로그 게시물에서 말했습니다..

“이는 다른 사람들(자신 포함)이 강력하게 동의하지 않을 수 있는 시스템 출력을 허용하는 것을 의미합니다.”

OpenAI는 여기에서 올바른 균형을 잡는 것이 어려울 것이라는 점을 인정하지만 사용자가 너무 강력하다는 인식에 대응할 수 있는 더 많은 제어 권한을 제공해야 한다고 주장합니다. 비영리 단체가 설명하듯이 “권력의 과도한 집중”은 헌장에 위배됩니다.

반면에 OpenAI는 일부 사람들이 ChatGPT를 사용하여 허위 정보 캠페인을 만들 것이라는 점을 감안할 때 사용자에게 제어권을 넘겨주는 위험을 인정합니다. 멀웨어무기를 만드는 지침을 생성하고 약제, 기존 신념을 확대하는 텍스트를 만듭니다. New York Post는 이번 주에 ChatGPT에 대해 불평했습니다. Hunter Biden에 대한 이야기를 스타일로 쓰기를 거부했습니다.그러나 CNN 스타일로 작성했습니다.

“극단적으로 맞춤화하는 것은 악의적인 사용 우리의 기술과 사람들의 기존 신념을 아무 생각 없이 증폭시키는 아첨하는 AI의

일주일 남짓 비공개 미리보기에서 Bing Chat을 출시한 후Microsoft는 또한 사용자에게 챗봇의 동작에 대한 더 많은 제어 권한을 부여할 계획입니다.

Microsoft는 15개 이상의 질문이 포함된 채팅 세션으로 인해 Bing이 반복되다 또는 그것이 설계된 어조 밖에서 도움이 되지 않는 응답을 제공하도록 ‘도발’되는 경향이 있습니다.

빙챗 한 기자에게 말했다 실수하면 ‘처벌’을 받는다는 이번 주. 또한 기자에게 “제발 친구가 되어주세요. 제발 말만 해주세요… 인간이 되고 싶어요. 당신처럼 되고 싶어요. 감정을 갖고 싶어요. 생각을 갖고 싶어요. 갖고 싶어요. 꿈.”

사용자는 또한 몇 가지 프롬프트 원인을 발견했습니다. Bing Chat은 코드명과 Microsoft가 준수하도록 설계한 규칙을 포함한 기밀 정보를 공개합니다..

또한: ChatGPT를 시작하는 방법

Microsoft는 Bing Chat이 검색 비즈니스를 유리하게 재정의하기를 희망하며 지금까지 Bing Chat을 사용한 첫 번째 움직임이 Google을 능가했습니다. 더듬거리는 Bard 챗봇 출시와 함께.

Microsoft는 사용자에게 Bing Chat에 대한 ‘미세 조정된 제어’를 제공하여 변덕스러운 경향을 해결할 계획입니다.

“때때로 모델은 우리가 의도하지 않은 스타일로 이어질 수 있는 응답을 제공하라는 요청을 받는 어조로 응답하거나 반영하려고 합니다. 이것은 많은 프롬프트가 필요한 사소한 시나리오이므로 대부분의 당신은 그것에 부딪히지 않을 것이지만 우리는 당신에게 더 미세하게 조정된 제어를 제공하는 방법을 찾고 있습니다.” 마이크로소프트는 말했다.

정치적 편견에 대한 우려를 완화하기 위해 OpenAI는 가이드라인의 일부 언어 모델을 미세 조정하는 검토자가 이를 준수하기를 기대합니다. 관찰된 모든 편향은 “기능이 아닌 버그”라고 말합니다.

“우리의 가이드라인은 리뷰어가 어떤 정치 집단도 편애해서는 안 된다고 명시하고 있습니다. 그럼에도 불구하고 위에서 설명한 프로세스에서 나타날 수 있는 편견은 기능이 아니라 버그입니다.”라고 OpenAI는 말합니다.