Shinichi Kudo, seorang detektif kebanggaan SMU Teitan yang berusia 16 tahun biasa membantu kepolisian memecahkan berbagai kasus. Setelah kencannya dengan Ran Mouri, temannya, dia diserang oleh 2 anggota organisasi misterius ketika mengawasi sebuah pemerasan. Dia kemudian diberi minum racun misterius yang baru selesai dikembangkan yang ditujukan untuk membunuhnya, namun karena sebuah efek samping yang jarang terjadi yang tidak diketahui anggota organisasi tersebut, racun tersebut mengakibatkan tubuhnya mengecil seperti bocah berusia enam tahun setelah mereka meninggalkannya.
Setelah dia sadar tubuhnya menjadi kecil, dia pun memberitahukan bahwa tubuhnya telah menyusut kepada Profesor Agasa, tetangganya yang merupakan seorang peneliti. Mulanya Profesor Agasa tidak percaya, namun karena Shinichi yang tubuhnya mengecil itu menunjukkan kemampuan analisisnya yang luar biasa, maka Profesor Agasa pun percaya bahwa dia adalah Shinichi Kudo yang tubuhnya mengecil.
Karena teman sejak kecil Shinichi, Ran Mouri, memiliki firasat buruk terhadap Shinichi, maka Ran pun mencari-cari Shinichi. Tempat yang pertama dicari Ran adalah rumah Shinichi. Kebetulan Profesor Agasa dan Shinichi yang tubuhnya menyusut ada disana, ketika Ran Mouri menanyakan nama dari bocah kecil yang sebenarnya Shinichi yang tubuhnya menyusut, dia menyebutkan bahwa namanya adalah "Conan Edogawa". Nama "Conan" berasal dari nama pengarang buku detektif terkenal Sir Arthur Conan Doyle, sedangkan nama "Edogawa" berasal dari nama Edogawa Ranpo. Edogawa Ranpo adalah pengarang novel detektif yang paling terkenal di Jepang. Conan lalu mulai mencari tahu seluk beluk organisasi misterius tersebut sambil tinggal di rumahnya Ran Mouri yang berada di daerah Beika. Nama Beika berasal dari tempat tinggal Sherlock Holmes (Baker Street). Baker di Jepang diucapkan sebagai Beika.
Karena mengecilnya tubuh Shinichi, analisis Conan sama sekali tidak dipercaya polisi karena dianggap sebagai anak kecil. Jadi, Conan terpaksa membuat ayah Ran, Kogoro Mouri, yang merupakan seorang detektif payah, untuk memecahkan berbagai kasus kejahatan, dengan harapan dapat melacak jejak organisasi tersebut. Conan didaftarkan oleh Profesor Agasa ke dalam SD Teitan sebagai murid kelas 1 SD pindahan dari daerah lain, dan membentuk Grup Detektif Cilik dengan 3 teman sekelasnya, yaitu Ayumi Yoshida, Mitshuhiko Tsubaraya dan Genta Kojima. Setelah itu ada anggota baru Grup Detektif Cilik, yaitu Ai Haibara. Ai adalah seorang ilmuan yang menciptakan racun misterius yang telah membuat tubuh Shinichi mengecil. Ai sengaja meminum racun buatannya karena ingin keluar dari organisasi misterius tersebut, dan akhirnya tubuhnya berhasil mengecil, namun Ai pingsan dalam perjalanannya kabur. Ai ditemukan di jalan oleh Profesor Agasa, sehingga sekarang tinggal bersama Profesor Agasa, dan disekolahkan bersama Conan di SD Teitan. Sekolah Teitan merupakan permainan kata dalam bahasa Jepang (Tan Tei yang artinya Detektif).
Ran Mouri pernah beberapa kali mencurigai bahwa Conan adalah Shinichi, namun karena kecerdikkan Conan, maka Ran pun percaya bahwa Conan bukanlah Shinichi. Kemudian kisah selanjutnya menjadi semakin rumit dan melibatkan berbagai individu. Semakin banyak detektif yang berada di dekat Conan, seperti Heiji Hattori, Saguru Hakuba, Masumi Sera, Amuro Tooru, dll.
Anggota Organisasi Hitam yang telah diketahui adalah Gin, Vodka, Vermouth, Pisco (meninggal), Tequilla (meninggal), Calvados (meninggal), Chianti, Kir / Hidemi Hondou / Rena Mizunashi, Kusuda Rikumichi (meninggal), Masami Hirota / Akemi Miyano (meninggal), Sherry / Shiho Miyano / Ai Haibara (mantan), Bourbon / Amuro Tooru, Rye / Shuichi Akai (mantan), Hell Angel (meninggal), serta Big Boss / Gin / Anokata (orang itu).