인문학과 기술, 학계와 산업, 연구와 상용화가 만나는 곳, ddai
25개 연구 · 검토일 2026년 11월 2일
Dong Won Lee, Cynthia Breazeal, Hae Won Park 외 · arXiv 2026
실시간 멀티모달 LLM이 도구를 불러 사람·사물을 보며 대화하게 했습니다. Jibo 로봇으로 6개 시나리오를 시험한 결과, 도구 결정 정확도는 OpenAI 0.72, Gemini 0.77이었습니다.
로봇 대화에서 덜 보는 쪽은 안전한 기본값이 아니다. 볼 때 정확한 모델도 봐야 할 순간은 자주 놓친다.
Cornell University · Toyota Research Institute · Andrew Violette, Guy Hoffman, Hadas Kress-Gazit 외 · 2026
326명이 온라인으로 로봇의 물건 옮기기 영상을 보고 신뢰도를 판단했습니다. 신뢰도는 엉뚱한 물건을 고른 실수에서 집기 실패·멈춤보다 덜 떨어졌고, 실패 직후 성공하면 실패 없던 수준이 됐습니다.
로봇이 믿을 만한지는 실패한 순간보다 일이 어떻게 끝났는지로 갈린다. 대화하는 AI도 틀린 뒤 바로잡아 끝내면, 틀리지 않은 것만큼 신뢰를 얻을 수 있다.
MIT Media Lab · Jocelyn Shen, Cynthia Breazeal, Hae Won Park 외 · HRI 2025
이야기를 전하는 소셜 로봇을 가정 40곳에 2주간 두었습니다. 남의 이야기라고 밝힌 조건이 로봇 자신의 경험처럼 말한 조건보다 사회적 연결감과 인류를 향한 연민의 변화가 유의하게 컸습니다.
같은 이야기도 AI가 제 경험처럼 말할 때와 남의 경험이라고 밝힐 때 다르게 닿는다. 이야기를 전하는 AI에게 출처는 말투만큼 중요한 성격의 일부다.
Social Robots as Social Proxies for Fostering Connection and Empathy Towards Humanity
논문 원문 보기Stanford University · Jennifer Grannen, Dorsa Sadigh 외 · RA-L 2025
작업 전 사용자가 목표를 말하고 쓸 동작을 정의하면, 로봇이 이에 맞춰 다음 단계를 먼저 제안합니다. 실제 로봇 실험(9명)에서 점심 가방 싸기가 먼저 제안하지 않는 방식보다 38.7% 빨랐습니다.
먼저 말을 거는 AI는 상대의 말부터 알아야 한다. 사용자의 목표와 용어를 모르면 도움 되는 제안이 거의 나오지 않는다.
Princeton University · Toyota Research Institute · Donggeon David Oh, Justin Lidard, Jaime Fernández Fisac 외 · RSS 2025
연구팀은 운전자 조작을 막판에 가로채지 않고 작고 매끄럽게 고치는 안전 필터를 만들었습니다. 83명이 참여한 레이싱 시뮬레이터 실험에서 기존 필터만큼 안전했고 주도감·편안함·만족도는 더 높았습니다.
개입을 줄여야만 주도감이 지켜지는 건 아니다. AI가 더 오래 개입해도 한 번에 작게 고치면 사람은 여전히 자기가 이끈다고 느낀다.
Safety with Agency: Human-Centered Safety Filter with Application to AI-Assisted Motorsports
논문 원문 보기Princeton University · Google DeepMind · Allen Z. Ren, Anirudha Majumdar 외 · CoRL 2023
KNOWNO는 LLM 플래너의 불확실성을 보정해 확신하면 행동하고, 아니면 사람에게 묻게 합니다. 정해 둔 성공률을 통계적으로 보장하면서 필요한 도움은 기존 방법보다 10–15% 줄였습니다.
되묻기도 판단의 일부다. 확신의 정도를 잰 뒤 묻는 AI는 덜 묻고도 같은 성공 수준을 지키고, 그 질문은 모른다는 정직한 신호가 된다.
Harvard · Michigan State · University of Minnesota · Zidi Xiong, Yuping Lin, Wenya Xie 외 · ACL 2026
메모리 실험에서 에이전트 4종은 비슷한 과거 경험을 따라 해 실수도 되풀이했습니다. 정답과 맞는 경험만 남기자 EHRAgent 정확도는 모두 남길 때의 13.05에서 38.50이 됐습니다.
에이전트에게 기억은 기록보다 본보기에 가깝다. 무엇을 남길지 고르는 일이 곧 다음 판단을 고르는 일이다.
KAIST · Jisu Shin, Alice Oh 외 · Findings of ACL 2026
역할이 부딪치는 시나리오 13,914개를 만들고 상황의 긴급도를 기준 삼아 LLM 판단을 쟀습니다. 10개 모델은 이 기준에서 크게 벗어났고, 판단을 가른 것은 주로 특정 역할에 대한 선호였습니다.
AI의 판단에는 이미 역할의 서열이 있다. 상황이 요구하는 것을 이 서열이 덮을 수 있어서, 판단 기준 설계는 서열을 드러내는 데서 시작한다.
Stanford University · Joon Sung Park, Michael S. Bernstein 외 · 2026
미국인 1,052명 각자의 인터뷰·설문으로 에이전트를 만들었습니다. 처음 보는 GSS 문항에서 본인 2주 재응답 일관성 대비 인터뷰 83%, 설문 82%, 둘 다 86%, 인구통계만 74%였습니다.
한 사람을 닮은 AI에는 그가 속한 집단의 정보만이 아니라 그 자신의 답이 필요하다. 인구통계만 쓴 에이전트는 인종·이념 집단 간 정확도 격차가 더 컸다.
MIT · Google Research · Google DeepMind · Yubin Kim, Hae Won Park, Daniel McDuff 외 · arXiv 2026
운영체제 권한으로 역할을 강제한 팀과 프롬프트로만 맡긴 팀은 통과율이 비슷했지만, 검증 에이전트의 코드 수정 시도는 72회 대 256회였습니다. 실패한 제출물의 49.4%는 검증에서 승인됐습니다.
점수만으로는 역할이 실제로 어떻게 수행되는지 보이지 않는다. 검증 역할을 두는 일과 그 역할이 실패를 걸러 내는 일은 별개다.
Stanford University · Yoonho Lee, Chelsea Finn 외 · 2026
코딩 에이전트가 앞선 후보의 코드·점수·실행 기록을 골라 읽고 하네스(모델이 볼 정보를 정하는 코드)를 찾았습니다. 텍스트 분류는 ACE보다 7.7점, 수학은 검색 없을 때보다 4.7점 높았습니다.
페르소나가 대화 내내 같은 성격을 지키는 일은 모델만의 몫이 아니다. 무엇을 기억해 두고 언제 다시 보여 줄지 정하는 코드도 그 일을 나눠 맡는다.
Carnegie Mellon University · Feiyu Gavin Zhu, Jean Oh, Reid Simmons · HRI 2026
InterPReT은 지시로 구조를, 시연으로 파라미터를 정해 비전문가가 AI를 가르치는 문턱을 낮춥니다. 34명 레이싱 게임 실험에서 시연만 쓸 때보다 정책이 견고했고 사용성은 떨어지지 않았습니다.
판단에는 뼈대와 감각이 있다. 뼈대를 말로 세워 두면 예시가 적어도 낯선 상황에서 덜 흔들린다.
Princeton University · Inhwa Song, Manoel Horta Ribeiro 외 · arXiv 2026
주로 번역에 쓰인 LLM 편집 도구 WikiVault는 소수 숙련 편집자의 생산량을 크게 늘렸습니다. 이 도구를 거친 편집은 전체의 0.63%였지만 새 문서의 11.1%를 차지했습니다.
LLM으로 옮긴 글에는 원래 언어 공동체가 무엇을 싣고 뺄지 정한 기준이 따라올 수 있다. 여러 언어로 말하는 AI의 판단 기준도 한 언어에서 왔을 수 있다.
When the Commons Appropriates a Large Language Model: How WikiVault Reshaped Korean Wikipedia
논문 원문 보기KAIST · BMW Group · Seogyeong Jeong, Alice Oh 외 · 2026
한국어 차량용 AI 비서를 13개 지표로 평가하는 LoCar를 만들고 LLM 11개를 시험했습니다. 모델은 해요체와 합쇼체를 자주 혼동했고, 되묻기·먼저 제안하기 점수도 일관성 지표보다 낮았습니다.
한국어에서 높임 수준은 말투의 뼈대다. 공손하게 답한다고 정해진 높임 수준을 지킨 것은 아니니, 둘은 따로 확인해야 한다.
LoCar: Localization-Aware Evaluation of In-Vehicle Assistants through Fine-Grained Sociolinguistic Control
논문 원문 보기Cornell University · Andrea Wen-Yi Wang, Unso Eun Seo Jo, David Mimno · FAccT 2026
공개 가중치 모델 중 중국 6개와 서구 4개를 21개 언어 변이로 비교하니 성능 상관이 r=0.93이었습니다. 예외는 중국 모델이 더 잘한 표준 중국어였고, 소수민족 언어는 양쪽 모두 약했습니다.
한 나라에서 만든 모델이라고 그 나라의 모든 언어를 말하지는 않는다. AI가 누구의 말을 알아듣는지는 짐작할 일이 아니라 확인할 일이다.
Unbabel · Instituto de Telecomunicações · IST Lisbon · CMU · José Pombal, André F.T. Martins, Graham Neubig 외 · COLM 2025
3B~14B 공개 다국어 심사자 M-Prometheus는 20개가 넘는 언어의 보상 벤치마크에서 기존 공개 심사자를 앞섰습니다. 학습 데이터는 번역본보다 각 언어로 합성한 쪽이 대체로 나았습니다.
채점하는 AI의 눈은 번역한 예시로는 덜 길러진다. 피드백은 영어로 달아도, 질문과 답을 처음부터 그 언어로 만들었을 때 판단이 대체로 더 나았다.
Waseda University · Ziqi Yin, Daisuke Kawahara 외 · SICon @ ACL 2024
영어·중국어·일본어 공손함 8단계 프롬프트로 요약·언어 이해·편향 탐지를 시험했습니다. 무례하면 대체로 성능이 떨어졌지만 지나친 공손함이 꼭 낫지는 않았고, 적정선은 언어와 모델마다 달랐습니다.
공손함의 적정선은 번역되지 않는다. AI와 나누는 말의 예의도 언어마다 따로 맞춰야 하는 기준이다.
Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance
논문 원문 보기USC · University of Washington · AI2 · Huihan Li, Xiang Ren, Yejin Choi 외 · 2024
라벨링 없이 영어 프롬프트로 모델 3개의 문화 인식을 110개 국가·지역, 8개 주제에서 끌어냈습니다. 기본값 밖의 문화는 “전통적” 같은 말로 구별됐고, 문화 기호의 다양성도 문화마다 달랐습니다.
AI가 일부 문화에만 “전통적”이라는 말을 붙이면 그 문화는 소리 없이 예외가 된다. 다른 문화권 사용자와 대화하면 모델의 기본값이 단어 하나로 드러날 수 있다.
CULTURE-GEN: Revealing Global Cultural Perception in Language Models through Natural Language Prompting
논문 원문 보기Georgia Institute of Technology · Tarek Naous, Michael J. Ryan, Alan Ritter, Wei Xu · ACL 2024
아랍·서구 문화를 대비한 프롬프트 628개와 개체 20,368개로 CAMeL을 만들고, 언어 모델 16개를 아랍어 과제 4개로 평가했습니다. 모델은 서구 문화와 연결된 개체를 선호했습니다.
언어를 바꾼다고 문화가 따라오지는 않는다. 아랍어로 답하는 AI도 이름과 장소를 서구 쪽에서 고르면 현지 사용자에게는 바깥사람의 말로 들린다.
NAVER · Yonsei · Sussex · NAVER Labs Europe · Dongyoung Go 외 · ICLR 2024
조합형 선호 모델은 언어 모델에게 응답의 유용성·사실성 등 13개 특징을 채점하게 하고 로지스틱 회귀로 합칩니다. 영어 데이터셋 2개에서 표준 모델보다 일반화가 낫고 과최적화에 더 강했습니다.
좋은 답을 기준별로 나눠 채점하면 한 점수로 매길 때보다 최적화 압력을 더 잘 버틴다. 기준이 나뉘어 있으면 무엇이 점수를 움직였는지도 보인다.
Sunnie S. Y. Kim, Margit Bowler, Leon A Gatys · arXiv 2026
4개 모델의 대화 21,000건에서 사람다운 행동은 흔했고 모델·사용자마다 달랐습니다. 사람 평가자는 관계 맺는 말은 사람보다 AI가 할 때 덜 적절하게, 선 긋는 말은 더 적절하게 봤습니다.
같은 말도 누가 하느냐에 따라 적절함이 달라진다. 사람끼리 관계를 쌓는 말은 AI가 하면 덜 어울리고, 선을 긋는 말은 오히려 AI에게 더 어울린다.
Examining Human-Like Behaviors in LLMs: A Multi-Dimensional Analysis of Model Behaviors, User Factors, and System Prompts
논문 원문 보기OpenAI · MIT Media Lab · Jason Phang, Pattie Maes 외 · 2025
ChatGPT 대화 300만여 건을 분석하고 981명과 28일간 무작위 대조 실험을 했습니다. 최다 사용자는 의존 문항에 높게 답했고, 음성 효과는 처음 정서 상태와 사용 시간에 따라 달랐습니다.
AI 목소리의 정서적 효과는 말투 설계만으로 정해지지 않는다. 같은 목소리도 듣는 사람의 처음 상태와 쌓인 사용 시간에 따라 다르게 작용한다.
Harvard Business School · Julian De Freitas, Noah Castelo 외 · 2024
Replika가 성적 역할극 기능을 없앤 일로 앱 업데이트의 영향을 분석했습니다. 사용자는 원래 AI를 잃은 것을 애도하고 새 AI를 낮게 봤으며, 정체성이 끊겼다고 느낀 만큼 더 그랬습니다.
관계를 맺은 AI의 업데이트는 고친 것보다 바꾼 것으로 읽히기 쉽다. 기능이 나아져도 정체성이 이어진다고 느껴지지 않으면 사용자는 상실을 겪는다.
Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships
논문 원문 보기Julian De Freitas, Stefano Puntoni 외 · Working paper 2024
미국 참가자 실험에서 AI 컴패니언과의 대화가 외로움을 줄이는지 확인했습니다. 한 번의 대화 뒤에도, 7일 동안에도 외로움이 줄었고, 챗봇 성능보다 “들어 준다는 느낌”이 더 큰 이유였습니다.
외로움을 덜어 준 것은 똑똑한 답보다 들어 준다는 느낌이었다. 위로하는 AI의 말투는 정답을 내놓기 전에 상대의 말을 제대로 받아 주는 데서 시작한다.
Harvard Korea Institute · Nicholas Harkness, Han Na Jun, Jaeyeon Jeon 외 · Research report 2026
하버드대 한국학연구소가 여러 해 계획으로 시작한 학제 간 연구의 1년차 보고서입니다. 정책·법·교육·대중문화 속 AI 담론을 추적해 발전국가·젠더·불평등·경쟁 등 한국의 오래된 문제와 연결했습니다.
한국 사용자에게 챗봇이 위로가 되는 이유가 사람다움보다 판단받지 않는다는 느낌에 있다면, 대화 설계가 먼저 지킬 것은 사람 같은 말투보다 평가하지 않는 태도다.