卡拉OK是戰後日本做出的兩大國際貢獻之一，盡管發明者井上大佑沒有為其申請專利，但1999年8月23日出版的美國《時代周刊》雜誌亞洲版評出20世紀給亞洲帶來重大影響的20個人物，井上大佑與中國的毛澤東和孫中山、印度的甘地、日本的昭和天皇、著名導演黑澤明、豐田汽車的創始人豐田英二等人並列。《時代周刊》對他的評價是：“毛澤東、甘地改變了亞洲的白天，井上大佑則改變了亞洲的夜晚。”1994年，卡拉OK的日本消費者達到5800萬，也就是說，當年每兩個日本人中就有一個人去過卡拉OK。
神戶是日本近代最早對外開放的城市之一，也是在日本最早出現電影院、高爾夫、爵士樂的城市，卡拉OK也誕生在這個城市。通常的串街賣唱是不停地在各個俱樂部或酒館自彈自唱，但在神戶，彈唱者專屬某個俱樂部或酒館，而且自己不唱，是為唱歌的客人伴奏，高中畢業後參加爵士樂隊在各俱樂部演出的井上大佑在1970年29歲時成為其中的一位。井上不識樂譜，但記憶力強，而且擅長隨著客人的音調伴奏。
兩年後的一天，一位非常熟悉的客人要到外地去聚會修養，盡管這位企業老板很喜歡唱歌，但五音不全、唱歌跑調，因而希望井上同行。由於井上沒有時間，就在磁帶上錄了三首歌的伴奏曲讓客人帶去，並答應回來後再錄製其他歌曲。因為效果不錯，井上靈機一動，何不錄製些伴奏帶出售呢？當時井上也兼職向咖啡館出租音樂磁帶，是那種八聲道電唱機用的磁帶。這種磁帶不僅可以同時錄製多首歌曲，而且可以循環播放，另外比盒式磁帶容易尋找歌曲，也比唱片省事。
說幹就幹，井上等人借用神戶一家音樂婚禮堂，吉他、手風琴、架子鼓演奏，錄製了60首伴奏曲，放在八聲道電唱機中，加上放大器、回聲器、定時器、麥克風等，100日元伴唱5分鍾。最初製作的機器安放在11家酒館中，但一周內分文未賺。井上請求自己的女同事首先去唱，同時勸誘客人同唱。開始還害羞的客人逐漸入迷，第二天酒館一開門就跑來練習，局麵慢慢打開。