늦깎이 공대생의 인공지능 연구실

날이 갈수록 다양한 분야에서 인공지능을 적용하고자 하는 시도가 계속되고 있습니다. 영상에서 찾고자 하는 물체를 찾아내며 안면인식을 통해 사람을 식별하는 시각 AI뿐 아니라 호텔과 같은 곳을 주행하는 서비스 로봇이 목적지에 이동하여 서비스를 제공하는 시스템도 어느덧 우리 주변에서 볼 수 있게 되었습니다. 우리들이 일상에서 접할 수 있는 분야에서도 이렇게 인공지능을 쉽게 접할 수 있게 되었음을 이제는 실감할 수 있게 되었는데 과연 기업들은 이러한 인공지능을 어떻게 활용하고 있을까요? 산업화를 통해 발전된 우리나라는 제조업을 영위하는 다양한 기업들이 있습니다. 복잡한 기계들이 일사분란한 움직임으로 자동차와 같은 생산품을 만들어내는 딱딱한 모습은 오늘날 인공지능의 모습과는 많이 멀어보이기만 합니다. 그런데 놀랍..

Anchor는 예측을 충분히 "고정"시키는 의사결정 규칙을 찾아 블랙박스 분류 모델에 대한 개별 예측을 설명합니다. 규칙은 다른 특성값의 변화가 예측에 영향을 미치지 않는 경우 예측을 고정시킵니다. Ancohr는 그래프 검색 알고리즘과 함께 강화 학습 기법을 활용하여 모델 호출 횟수(필요한 실행시간)를 최소로 줄이면서도 지역 최적화에서 회복될 수 있습니다. Ribeiro, Singh, Guestrin은 2018년에 이 알고리즘을 제안하였습다. 이들은 LIME 알고리즘을 도입하였던 분들이기도 합니다. 이전 모델과 마찬가지로 Anchor 접근방식은 미세변동 기반 전략을 배치하여 블랙박스 기계 학습 모델의 예측에 대한 지역 설명을 생성합니다. 그러나 LIME이 사용하는 대리모델 대신 결과적인 설명은 Ancho..