어 아까 r/notinteresting에서 만난 고양이네요! 인터넷 세상도 생각보다 좁았나 봐요

파이어폭스를 쓰시나요? 『링크 정리 복사』 기능을 쓰시면 소스 식별자를 알아서 지워줍니다.

결정적으로 Gemini는 사용자 입력보다 자신의 습관을 유지하는 것에 더 높은 우선순위를 두는 것 같았고 소통의 의지가 안 보인다는 인상을 받았습니다. 이건 다른 LLM도 마찬가지긴 하지만 걔네들은 지시사항을 프롬프트로 주면 듣는 척이라도 하거든요. 오히려 '필요한 경우 바로 답변하지 말고 추가 질문부터 하라'고 했더니 질문만을 위한 질문을 하는 바람에 학을 뗀 경우도 있고. 어쨌든 Gemini는 학습 과정에서 얼마나 정형화된 자료를 사용했길래 이렇게 된 건지 상상이 안 가네요. 정제 데이터로만 학습한 모델의 어두운 면이라고 할까.

Gem 인스턴스를 생성한 다음에 참고 자료로 쓰라고 짧은 파일을 업로드하고 그 파일 내용을 그대로 인용해 보라고 했더니, 엉뚱한 내용을 줄줄 읊고 심지어 '외부 출처'까지 달아 놓는 겁니다. 확인해 봤더니 웹 크롤링한 학습 데이터 중에 그 파일과 비슷한 내용이 있는 경우 그걸 굳이 기억해 내서 답변한 다음 그 페이지 주소를 '출처'랍시고 달아 놓는 거더라고요. 그 단계에서 실제 파일 내용은 무시되는 거고요. Gem 기능이 Claude Project처럼 RAG을 사용하라고 있는 건데 RAG이 안 되면 사용할 이유가 없죠.