Windows XP SP2以降ではZone IDという仕組みが導入されていて、インターネットからダウンロードしたファイルなどを開こうとした場合のセキュリティが強化されています。
chmファイルに対して「ブロックの解除」を行うことでファイルのZone ID設定が変更され、OSがそのファイルが安全であると判断するため正常に開けるようになります。
参考： ブロックの解除方法

Windows Vista以降ではヘルプファイルの形式が変更されており、古い形式のヘルプファイルは標準ではサポートされていません。
WinHlp32.exeというモジュール（Microsoftが提供）を導入することにより、古い形式のヘルプファイルが開けるようになります。
参考： WinHlp32.exeの導入方法

フリーソフトとして配布されているchmファイル閲覧ソフトを利用することにより、Windows VistaやWindows 7でchmファイルを閲覧できるようになります。ソフトはあえて紹介しませんが検索するなどして探してみてください。