뱅크샐러드는 실행 대상 판단과 수치 검증, 실행 제어 등 3단계 안전망을 통해 인공지능(AI)의 왜곡된 정보 생성과 오작동을 선제적으로 통제함으로써 금융 소비자 보호를 강화했다.
 |
| ▲ 뱅크샐러드 CI. [뱅크샐러드 제공] |
뱅크샐러드는 '금융 AI 에이전트 판단·실행 제어 기술'과 관련해 3건의 특허 출원을 마쳤다고 15일 밝혔다.
이 기술은 AI 에이전트가 소비자를 대신해 금융 거래를 진행할 때 일어날 수 있는 잠재적 위험을 차단한다. 또한, AI가 왜곡된 정보를 생성하고 사실과 다른 답을 내놓는 '환각' 오류를 차단하기 위해 △실행 대상 판단 △수치 검증 △실행 제어 등 기술적 안전망을 확보하는 데 중점을 뒀다.
고객에게 불리한 거래 실행을 보류하는 기술도 포함됐다. AI 에이전트가 금융 서비스를 실행할 때 입력된 수치와 정보가 정확한지 원칙대로 검증하고, 잘못된 판단을 내리지 않도록 마지막까지 제어하는 것이 핵심이다.
뱅크샐러드 관계자는 "뱅크샐러드는 금융 AI 에이전트가 고객에게 재무 이익을 제공하는 것은 물론, 오류를 검증하고 통제해 안전하게 서비스를 이용할 수 있도록 하는 것을 중요한 원칙으로 삼고 있다"며 "이를 통해 고객이 안심하고 사용할 수 있는 신뢰도 높은 금융 AI 서비스를 만들어 나갈 것"이라고 말했다.
KPI뉴스 / 송채린 기자 scr@kpinews.kr
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
