Эта идиома взята из старой детской песенки, в которой сыр остался один без партнера. Часто используется для описания кого-то, кто остался один.