머신러닝에서도 공짜 점심은 없다! NFL(NoFreeLunch)

'공짜 점심은 없다'라는 말은 경제학에서 유명한 명언으로 세계적인 경제학자 밀턴 프리드먼이 주장했던 내용이다. 이 말은 누군가가 공짜로 점심을 제의한다하더라도 그 대가로 자신은 그 시간동안 할 수 있었던 다른 일. 결국 어떠한 기회비용을 분명히 치른다는 것이다. 만약 1시간에 10만원을 버는 사람이 전화를 받느라 1시간을 쓴다면 그 사이 10만원을 잃게 된다. 하지만 그렇지 않은 사람은 1시간에 대한 기회비용이 없기 때문에 그에 대한 비용이 발생하지 않는다. 이렇듯 경제학자들은 사람마다 기회비용이 다르다고생각하고 위렌버핏과 한 끼 점심에 수억원을 투자하는 이유도 이와 같은 이치로 볼 수 있다. 그런데 이러한 개념은 머신러닝에서도 마찬가지이다. 1996년 데이비드 월퍼트(david wolperts)는 Th..

• format_list_bulleted AI
• · 2022. 6. 14.
• textsms

인공지능의 역사

인공지능에는 오늘날가지 총 3차례의 붐(Boom)이 있었으며, 딥러닝이 주목받고 있는 지금이 제 3차 붐에 해당된다. 우선 인공지능의 역사를 알아보기전에 2021년 기준으로 인공지능의 최신 동향부터 알아보고자한다. 우리가 이미 이세돌과 알파고의 바둑대결로 잘 알게되었던 딥러닝이라는 기술은 한계점이 존재한다. (딥러닝은 여러가지 머신러닝 기술 중 하나이다.) 그 한계점이란 바로 학습을 위해서는 수많은 데이터가 필요하며 고도화된 계산방식 때문에 엄청난 하드웨어 용량을 잡아먹는 문제점이 존재한다. 그래서 2021년에는 인공신경망 경량화가 본격적으로 진행될 예정이다. #참고자료 대표적인 경량 딥러닝 알고리즘으로는 가중치와 노드의 연결을 끊는 가지치기 기법과 각각의 가중치의 비트 값을 줄이는 양자화 기법 그리고 ..

• format_list_bulleted AI
• · 2021. 11. 15.
• textsms

심볼 그라운딩 문제(Symbol Grounding Problem)이란?

인공지능 분야에는 심볼 그라운딩 문제(Sysbol Grounding Problem)이라는 것이 존재한다. 이는 인공지능(AI,컴퓨터)는 표상(기호로 표시된 세계)을 실제세계(real world)와 연관지어 이해할 수 없다는 문제이다. 예를 들자면 '해파리'를 본적도 없고 들어본적도 없는 그 존재조차 모르는 사람에게 해파리라는 단어만을 알려준다 한들 이해할 수 가 없다. 하지만 실제로 해파리를 본적이 있거나 해파리 사진을 본 경험이 있는 사람에게는 해파리라는 단어를 이해할 수 있다. 이처럼 인간이라면 시각능력을 통해서 해당 단어와 연결지어 해파리라는 단어를 학습할 수 있고 이해할 수 있게된다. 따라서 인공지능에게도 시각처리 능력을 심어주게 된다면 이러한 심볼 그라운딩 문제를 해결 할 수 있게되는 것이다. ..

• format_list_bulleted AI
• · 2021. 11. 14.
• textsms