- Turing Post Korea
- Posts
- ๐ฆธ๐ป#16: 'แแ ฉแแ ฎ'แ แ ฉแแ ฅแแ ด แแ ตแซแแ กแซ? - แแ ฆแแ ตแแ ฅแซแแ ตแจ แแ ฏแแ ณแแ ณแฏแ แ ฉแแ ฎแแ ฆแแ ฅ HITLแแ ด แแ ตแซแแ ช
๐ฆธ๐ป#16: 'แแ ฉแแ ฎ'แ แ ฉแแ ฅแแ ด แแ ตแซแแ กแซ? - แแ ฆแแ ตแแ ฅแซแแ ตแจ แแ ฏแแ ณแแ ณแฏแ แ ฉแแ ฎแแ ฆแแ ฅ HITLแแ ด แแ ตแซแแ ช
แแ ตแแ ณแผแแ งแผ แแ ตแแ ณแแ ฆแทแแ ด แแ ตแ แ ขแ แ ณแฏ แแ กแแ ฎแแ ณแซแแ ฆ แแ ฉแจ แแ ตแฏแแ ญแแ กแซ, Human-AI Co-Agency
๋ค์ด๊ฐ๋ฉฐ

ํจ๋ฆฌ ๋ฐ์ด๋น๋ ์๋ก์ โ์๋ (Walden)โ์์.
ํ๋ง ํฌ์คํธ ์ฝ๋ฆฌ์์ โAI ์์ด์ ํธโ ์๋ฆฌ์ฆ์์๋ ์ง๊ธ๊น์ง ์ถ๋ก , ๊ธฐ์ต, ์ฑ์ฐฐ, ํ๋, ๋๊ตฌ์ ํตํฉ, MCP, A2A ๋ฑ ์์ด์ ํธ์ ๊ด๋ จํ ๋ค์ํ ํ ํฝ์ ๋ค๋ค์ต๋๋ค.
์ค๋์, ์กฐ๊ธ ๋ค๋ฅธ ๊ด์ ์ด์ง๋ง ์ญ์ ๋ชป์ง์๊ฒ ์ค์ํ ๊ทผ๋ณธ์ ์ธ ์ฃผ์ ์ ํ ๋ฒ ์ ๊ทผํด ๋ณผ๊น ํฉ๋๋ค: ๋ฐ๋ก, ์ฌ๋์ด ์์ด์ ํธ์ ์ํฌํ๋ก์ฐ์ ์ด๋ป๊ฒ ์ฐธ์ฌํ ๊ฒ์ธ๊ฐ, ์ฌ๋๊ณผ ์์ด์ ํธ๊ฐ ์ด๋ค ๊ตฌ์กฐ๋ก ์ด๋ป๊ฒ ํ๋ ฅํ ๊ฒ์ธ๊ฐ ํ๋ ๋ฌธ์ , Human-AI Co-Agency์ ๋๋ค.
์ ๊ทธ๋ฆผ์์ ๋ณด๋ฏ, ๋ฏธ๊ตญ์ ์ฒ ํ์ ํจ๋ฆฌ ๋ฐ์ด๋น๋ ์๋ก๋ 1845~1847๋ ์ "์ธ๊ฐ์ด ์์ ์ ๋๊ตฌ๋ค์ ๋๊ตฌ๊ฐ ๋์๋ค"๋ผ๋ ๋ฌธ๊ตฌ๋ฅผ ์ผ์ต๋๋ค. ๋ฐ๋ก ์ฒ ๋, ์ ์ (Telegram), ๋๊ธฐ๊ตฌ ๊ฐ์ 19์ธ๊ธฐ์ ๊ธฐ์ ์ ๋ํด์ ์ด์ผ๊ธฐํ๋ฉด์ ํ ๋ง์ธ๋ฐ์. ์ด๋ฐ ๊ธฐ์ , ๋๊ตฌ๋ค์ ์ฌ๋์ ์ํด์ ๋ง๋ค์ด์ง ๊ฒ์ธ๋ฐ๋, ์๋ก๋ ์ฌ๋๋ค์ด โ๋๊ตฌ๋ฅผ ์ค์ฌ์ผ๋ก ์ค์ค๋ก์ ์ถ์ ์ฌ๊ตฌ์ฑโํ๋ ๋ชจ์ต์ ๋ณธ ๊ฒ์ด์ฃ . ์ง์ง ๋๋ ค์ํด์ผ ํ ๊ฒ์, ์๋ก์ด ๊ธฐ์ ๊ทธ ์์ฒด๊ฐ ์๋๋ผ, ์ฐ๋ฆฌ๊ฐ ๋ง๋ ์์คํ ์ ์ฃผ๋๊ถ์ ์๋ ๊ฒ์ด์๋ค๋ ๊ฒ๋๋ค.
ํจ๋ฆฌ ๋ฐ์ด๋น๋ ์๋ก์ ๋ง์ ๊ณฑ์น์ด ๋ณด๋ฉด, ์ด๋ฐ ๋๋ ค์์ ์๋ก์ด ๊ฒ ์๋๊ณ ํญ์ ์ ๊ธฐ์ ์ด ๋ฑ์ฅํ ๋๋ง๋ค ๋ฐ๋ณต๋์ด ์จ ๊ฑฐ๋ผ๋ ๊ฑธ ๊นจ๋ซ๊ฒ ๋ฉ๋๋ค. ๋ค๋ง, AI์ ๋ฌผ๊ฒฐ์ด ๊ฐํ๊ฒ ๋ชฐ์์น๋ ์ง๊ธ์ด ๊ณผ๊ฑฐ์ ๋ค๋ฅธ ์ ์, ์ญ์ฌ์ ์ฒ์์ผ๋ก โ์ฐ๋ฆฌ๊ฐ ๋ง๋ ๋๊ตฌ๊ฐ ์ค์ ๋ก ์๋ฏธ์๋ ๋ต๋ณ์ ํ๊ณ ๊ฒฐ์ ๋ง์ ๋ด๋ฆด ์ ์๋คโ๋ ๊ฒ์ผ ๊ฒ๋๋ค. ๋ฐ๋ก ์ด ๋๋ฌธ์, Co-Agency, ์ฆ AI์ ํจ๊ป ์ด์๊ฐ๋ฉด์ ํ๋ ฅํ๊ณ ๊ณต๋์ ์ฃผ๋๊ถ ํ์์ ์์ฌ๊ฒฐ์ ์ ํ๋ ๋ฐฉ๋ฒ์ ๋ํด์, ๊ทธ ๊ตฌ์กฐ์ ๊ธฐ์ (Mechanism)์ ๋ํด์ ๊น์ด ์๊ฐํด์ผ ํฉ๋๋ค.
Co-Agency์ ์ ๊ทผํ ๋, ๋ ๊ฐ์ง์ ๊ด์ ์ด ์์ ํ ๋ฐ, ๋ ๊ฐ์ง ๋ชจ๋ ์์ฃผ ๊น์ ์ญ์ฌ์ ์ธ ๋งฅ๋ฝ์ ๊ฐ๊ณ ์์ต๋๋ค:
์ฒซ์งธ, ์ค์ฉ์ ์ด๊ณ ๊ตฌ์กฐ์ ์ธ Co-Agency
์ด๊ฒ ๋ฐ๋ก ํํ ์ด์ผ๊ธฐํ๋ HITL (Human in the Loop) ์ธ๋ฐ์. ์ข ์ข , ๋๊ตฌ๋ฅผ ํธ์ถ (Tool Calling)ํ๋ค๋ ๋งฅ๋ฝ์์ โ์ฌ๋์ด ๋๊ตฌ๋ก์์ ์ญํ โ์ ํ๋ ๊ฒ๋๋ค.
๋ง์์. ์ด๋ป๊ฒ ๋ณด๋ฉด, โ์ต์ข ์์ฌ๊ฒฐ์ ์โ์๋ ์ฌ๋์ด, ์์ด์ ํธ์ ๋๊ตฌ ์์ (Tool Box) ์์ ์๋, ๊ทธ์ โํ์์ ๋ฐ๋ผ ํธ์ถํ ์ ์๋ ํจ์โ์ฒ๋ผ ์ญํ ์ ํ๊ฒ ๋๋ ๊ฑฐ์ฃ . ์ผ์ข ์ โ์ ๋ฝโ์ด๋ผ๊ณ ํด์ผ ํ ๊น์?
๋ฌผ๋ก , ํญ์ ๊ทธ๋ฐ ๊ฒ๋, ๋ชจ๋ ๊ฒฝ์ฐ์ ๊ทธ๋ฐ ๊ฒ๋ ์๋์ง๋ง, ์ด๋ฐ ์ค์ ์ด ์ ์ ์ผ๋ฐํ๋ ์ ๋ฐ์ ์์ ๊ฑฐ๋ผ๊ณ ๋ด ๋๋ค. ์ด ์ธํ ์ด ๋ฐ๋ก ์ค๋ ๊น์ด ๋ค์ฌ๋ค๋ณด๋ ค๊ณ ํ๋ ๋ด์ฉ์ ๋๋ค.๋์งธ, ๊ฒฝํ์ ์ธ, ๋ํํ์ Co-Agency
HITL๊ณผ๋ ์ข ๋ค๋ฅธ ๋งฅ๋ฝ์์, AI์ ์ฌ๋์ด ์ํตํ๋ ๋ฐฉ์, ๊ทธ ์ธํฐํ์ด์ค (UX)๊ฐ ํ์ ์ ์ผ๋ก ๋ณํํ๊ณ ์์ฃ . ์๋ฅผ ๋ค๋ฉด, ์์ฑ ๊ธฐ๋ฐ์ ์ํธ์์ฉ์ด๋ผ๋ ์ง, ์๊ฐ์ ์ผ๋ก AI์ ์ฌ๊ณ ๊ณผ์ ์ ๋ณด๋ฉด์ ์ค๊ฐ ์ค๊ฐ ์ง์์ฌํญ์ ๋ณ๊ฒฝํ๋ค๋ ์ง ํ๋ ๊ฒ๋ค์ด์.
๋ง์น ์ธํฐ๋ท์ ํ์ฅ์ฑ์ ๊ทน๋ํํ โํ์ดํผ๋งํฌโ๋ผ๋ ์ง, โ๋ง์ฐ์คโ์ ๋ฐ๋ช ๊ฐ์ ๊ฒ๋ค์ด ๋น์ทํ ๋งฅ๋ฝ์ด๋ผ๊ณ ํ ์ ์๋ค๊ณ ์๊ฐํ๋๋ฐ์. ์ด๋ฐ ๋ด์ฉ๋ค์ ๋ณ๋์ ์ํผ์๋๋ก ๋ค๋ค ๋ณด๋๋ก ํ๊ฒ ์ต๋๋ค.
์, ๊ทธ๋ผ HITL์ด ์ด๋ค ๋ชจ์ต์ผ๋ก ๋ณํํ๊ณ ์๋์ง, AI ์์ด์ ํธ๊ฐ ์ค์ฌ์ด ๋ ์ํฌํ๋ก์ฐ์์ ์ฌ๋์ ์์น๋ ์ด๋์ฏค์ผ์ง ์ดํด๋ณผ ์ค๋น๊ฐ ๋์ จ๋์?
์ค๋ ์ํผ์๋์์๋ ๋ค์๊ณผ ๊ฐ์ ๋ด์ฉ์ ์ปค๋ฒํฉ๋๋ค:
โ์์ด์ ํฑ ์ํฌํ๋ก์ฐโ์ ๋งฅ๋ฝ์์ HITL์ด๋ ๋ฌด์์ธ๊ฐ?
โAI ์์ด์ ํธโ ์๋ฆฌ์ฆ์ ์ง๋ ์ํผ์๋๋ค์ ํตํด์, โ์์ด์ ํธ๊ฐ UI ๋๋ API๋ฅผ ํตํด์ ์ด๋ป๊ฒ ํ๋ (Action)์ ํ ์ ์๊ฒ ๋๋์งโ, ๊ทธ๋ฆฌ๊ณ โMCP๋ผ๋ ํ๋กํ ์ฝ์ด ์ด๋ฐ ํ๋ (Action)์ ์ด๋ป๊ฒ ํ์คํ, ๊ตฌ์กฐํํด ์ฃผ๋์งโ ๋ง์๋๋ ธ์ต๋๋ค. ์์ด์ ํธ์๊ฒ โ์์จ์ฑโ์ ๋น๊ต์ ์ฝ๊ฒ ๋ถ์ฌํ ์ ์๊ฒ ๋์๊ณ , โํ๋โ๋ ์ํํ๊ฒ ํ ์ ์๋ ํ๊ฒฝ์ด ๋ง๋ค์ด์ก์ต๋๋ค.
์ด ๋ง์ ๋ค๋ฅด๊ฒ ํด์ํ๋ฉด, ์ด์ ์์ด์ ํธ๋ฅผ ๋๋ฌ์ผ โ์กฐ์ (Orchestration)โ์ โ์ฌ๋์ ๋ฌธ์ โ๋ก ์นํ๋์๋ค๋ ๋ป์ด๊ธฐ๋ ํฉ๋๋ค.
HITL (Human-in-the-Loop )์ ํ ๋ง๋๋ก ํ์๋ฉด โAI ์์ด์ ํธโ ์์คํ ์ ํ์ค ์ธ๊ณ์์ ์ฌ์ฉํ ์ ์๊ฒ๋ ํด ์ฃผ๋ ์์ ์ฅ์น (Safety Net)โ์ด๋ผ๊ณ ํ ์ ์์ต๋๋ค.
AI ์์ด์ ํธ๊ฐ ๋ ๋ง์ด ์์จ์ ์ผ๋ก ์ฌ๋ฌ ๋จ๊ณ๋ฅผ ๊ฑฐ์น๋ ์์ ์ ๋งก๊ฒ ๋๋ฉด์, ๊ณตํต์ ๋ฌธ์ ๋ค์ ๋ถ๋ชํ๊ฒ ๋๋๋ฐ์: ๋ฐ๋ก ํ๊ฐ (Hallucination), ๋ถ์์ ํ ์ถ๋ก , ์์ธกํ๊ธฐ ํ๋ ๋น์์์ ์ธ ๊ฒฐ์ ๊ฐ์ ๊ฒ๋ค์ด์ฃ . ์๋ฒฝํ์ง๋ ์์ง๋ง, HITL๊ฐ ๊ทธ๋ฐ ๋ฌธ์ ๋ค์ ์ฌ์ ์ ๋ฐฉ์งํ๊ฑฐ๋ ํด๊ฒฐํ๋๋ฐ ๋์์ ์ฃผ๋ ํ๋์ ํด๊ฒฐ์ฑ ์ด ๋ฉ๋๋ค.
HITL์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด์ ๊ธ์กฐ๋ ๋ฏธ๋ด์ฑ ์ด ์๋๋ผ, ๋ฐ๋ณตํด์ ์ฐธ๊ณ ํ๊ณ ์ ์ฉํ ์ ์๋, ์ผ์ข ์ โ๋์์ธ ํจํดโ์ผ๋ก ๋ฐ๋ผ๋ด์ผ ํฉ๋๋ค: ๊ฒฐ๊ณผ๋ฅผ ๊ฒ์ฆํ๊ณ , ํ๋์ ์กฐ์ ํ๊ณ , ํ์ํ ๊ฒฝ์ฐ์๋ ์์คํ ์ ์๋๊ณผ ์์ฌ๊ฒฐ์ ์ ๋ฌด์ํ๊ฑฐ๋ ๊ธฐ๊ฐํ ์ ์๋๋ก, ์ฌ๋์ โ์์ฌ๊ฒฐ์ ๊ณผ์ , ์ฆ ๋ฃจํโ์ ๊ด์ฌํ๊ฒ ํ๋ ๊ฒ๋๋ค.

โํ๋ ฅ์ ์์ฌ๊ฒฐ์ โ์ ์ํ HITL ์์ด์ ํธ ํจํด.
Image Credit: Agentic Systems: A Guide to Transforming Industries with Vertical AI Agents
์ง๋ฌธ์ด ์ ๋งคํ ๋ ์ฑ๋ด์ด ๊ฒฐ๊ณผ๋ฅผ ์ง์ด๋ด์ง ์๋๋ก ์ง๋ฌธ์ ๋ช ํํ๊ฒ ํ๊ธฐ ์ํด์ ์ ๊น ๋ฉ์ถฐ ์ง๋ฌธ์ ํ๋ค๊ฑฐ๋, AI๊ฐ ์ค์ ์์ ์ ์์ํ๊ธฐ ์ ์ ์ฌ๋์ด ์น์ธํ๊ฒ๋ ๊ธฐ๋ค๋ฆฌ๋ ์ํฌํ๋ก์ฐ, ๋๋ ์์จ์ฃผํ์ฐจ๊ฐ ์ผ์์ ์ํฉ์์๋ ์์์ ์ดํํ๋ค๊ฐ ์์์น ๋ชปํ ์ํฉ์์๋ ์ฌ๋์ด ๊ฐ์ ํ ์ ์๊ฒ๋ ํ๋ ๊ฒ ๋ฑ, ๋ค์ํ ์๋๋ฆฌ์ค๊ฐ ์์ ์ ์์ ๊ฒ๋๋ค.
๊ทธ๋ฐ๋ฐ ์ฌ์ค ์ค์ ์ํฉ์, ์๊ฐ๋ณด๋ค๋ ๋ค๋ฃจ๊ธฐ ๊น๋ค๋ก์ธ ์๋ ์์ฃ : ์์จ์ฃผํ์ฐจ์ ๊ฒฝ์ฐ, ์ด๋ค ์ ๋๋ก ์์์น ๋ชปํ ์ํฉ์ด์ด์ผ ์ ์ด๊ถ์ ์ฌ๋์๊ฒ ์คฌ๋ค๊ฐ ๋ค์ ์ฐจ๋์ด ๊ฐ์ ธ์ค๊ณ ํ๋ ํ๋ฆ์ด ์ํํ๋ฉด์๋ ์ฌ๋์๊ฒ ๋ถํธํ์ง ์๊ฒ ํ๋ ์์ค์ผ๊น์? ๊ฒฐ๊ตญ HITL์, โ๊ท ํ์ ๋ฌธ์ โ์ด๊ธฐ๋ ํฉ๋๋ค.
๊ทธ๋ฆฌ๊ณ , ํนํ ๋ฉํฐ ์์ด์ ํธ ์์คํ ์์ HITL์ ์ค๊ณ์ ์์๋ก ํฌํจํ๋ ๊ฑธ ์๊ธฐ๊ฐ ์ฝ์ต๋๋ค.
HITL์ ์งํ ๊ณผ์
J. C. R. Licklider์ 1960๋ ์ํ Man-Computer Symbiosis๋ฅผ ์ฝ์ผ๋ฉด์, ์ ๋ง ์์ ์ ๊ธ๋ค์ ๋ค์ ๋ณผ ๋๋ง๋ค ์๋ก์ด ์๊ฐ์ ํ๊ฒ ๋๋ค๋ ๊ฑธ ๊นจ๋ฌ์๋๋ฐ์.
์ด ๊ธ์์, Licklider๋ โ๊ธฐ๊ณ๊ฐ ์ธ์ ๊ฐ ์ธ๊ฐ์ ์ธ์ง ๋ฅ๋ ฅ์ ๋์ด์ค ์ ์๋คโ๋ ์ ์ ์ธ์ ํ๊ธฐ๋ ํ์ง๋ง, โ๊ณต์โ์ ๋ฐ๋์ ๊ฑฐ์ณ์ผ ํ๋ ์ค๊ฐ ๋จ๊ณ๋ก ๋ณด๊ณ ์์ต๋๋ค โ ๊ทธ๋ฆฌ๊ณ ์ด โ๊ณต์โ์ ๋จ๊ณ๊ฐ, ์ด์ฉ๋ฉด ์ธ๋ฅ์ ์ญ์ฌ์ ๊ฐ์ฅ ์ง์ ์ผ๋ก ํ๋ถํ๋ฉด์๋ ์์ฐ์ ์ธ ๋จ๊ณ์ผ ๊ฑฐ๋ผ๊ณ ์ด์ผ๊ธฐํ๊ณ ์์ด์. ์ง๊ธ ์ฐ๋ฆฌ๋, ๋ง์ฐํ๊ฒ ๋ ์ฌ๋ฆฌ๋ โAGIโ์ ๋ํด์๋ ๊ทธ๋ ๊ฒ ๊ฐ๋ก ์๋ฐ์ด ๋ง์๋ฐ, ์ด๋ฐ โ๊ณต์โ์ ๊ตฌ์กฐ์ ์ด์์ ๋ํด์๋ ๋ณ ์ด์ผ๊ธฐ๊ฐ ์๋ ๊ฑธ๊น์?
*๋ฌด๋ฃ ๊ตฌ๋ ์๋ค๊ป์ ๋ณด์ค ์ ์๋ ๋ด์ฉ์ ์ฌ๊ธฐ๊น์ง์ ๋๋ค. AI ์์ด์ ํธ์ ์ํผ์๋๋ ํ๋ฆฌ๋ฏธ์ ๊ตฌ๋ ์๋ค๊ป ์ ์ฒด ๋ด์ฉ์ด ๊ณต๊ฐ๋ฉ๋๋ค. ํ๋ฆฌ๋ฏธ์ ํ๋์ผ๋ก ์ ๊ทธ๋ ์ด๋ํ์๋ฉด ์ด ์ํผ์๋ ์ ์ฒด๋ฅผ ํฌํจํด์ ํ๋ง ํฌ์คํธ ์ฝ๋ฆฌ์์ ๋ชจ๋ ์ปจํ ์ธ ๋ฅผ ์ ํ์์ด ๋ณด์ค ์ ์์ต๋๋ค!

ํ๋ง ํฌ์คํธ ์ฝ๋ฆฌ์์ ์ธ์ฌ์ดํธ๊ฐ ๋ด๊ธด ์ปจํ ์ธ ๋ฅผ ๋ง์๊ป ์ฝ์ด๋ณด์ธ์!
ํ๋ฆฌ๋ฏธ์ ํ๋์ผ๋ก ์ ๊ทธ๋ ์ด๋ํ์๋ฉด ํ๋ง ํฌ์คํธ ์ฝ๋ฆฌ์์ ๋ชจ๋ ์ปจํ ์ธ ๋ฅผ ์ ํ์์ด ๋ณด์ค ์ ์์ต๋๋ค. ํ๋ฆฌ๋ฏธ์ ๊ตฌ๋ ์๊ฐ ๋์ด ์ฃผ์๋ฉด ํ๋ง ํฌ์คํธ ์ฝ๋ฆฌ์์ ์ปจํ ์ธ ์ ์์ ํฐ ๋์์ด ๋ฉ๋๋ค. ๊ฐ์ฌํฉ๋๋ค!
์ฃผ๊ฐ AI ๋ด์ค๋ ํฐ
AI ์ ๋์ฝ ๊ธฐ์ ๋ค์ ๋ํ ์ฌ์ธต ๋ถ์ ๊ธฐ์ฌ
AI ๊ธฐ์ , ์ฐ์ , ์ ์ฑ ์ ๋ฌธ๊ฐ ์ธํฐ๋ทฐ
AI ๊ธฐ์ ๋ฐ ์ฐ์ ์ ๋ํ ์ฌ์ธต ๋ถ์ ์๋ฆฌ์ฆ
๋ถ์ ๊ธฐ์ฌ ์์ฒญ ๋ฐ ํ๋ง ํฌ์คํธ ์ฝ๋ฆฌ์ ๊ธฐ๊ณ
์ฝ์ด์ฃผ์ ์ ๊ฐ์ฌํฉ๋๋ค. ์น๊ตฌ์ ๋๋ฃ ๋ถ๋ค์๊ฒ๋ ๋ด์ค๋ ํฐ ์ถ์ฒํด ์ฃผ์ธ์!
Reply