Shinichi Kudo, seorang detektif SMA yang memiliki kemampuan luar biasa dalam menganalisa kasus-kasus kriminal terkena suatu masalah besar ketika tiba-tiba dirinya mengecil setelah diberi minum racun misterius, yang kemudian diketahui adalah racun berkode APTX 4869, oleh 2 anggota Organisasi Hitam yaitu Gin dan Vodka. Saat kejadian itu Shinichi dan Ran Mouri sedang berkencan di sebuah taman tema (theme park) yang bernama "Tropical Land". Kemudian, Shinichi bertemu dengan dua orang yang mencurigakan, dan Shinichi pun membuntuti mereka. Karena keasyikan mengintip transaksi gelap yang dilakukan Vodka dengan seorang pengusaha, tanpa disadari, Shinichi dipukul oleh Gin, dan dicekoki obat misterius yang dimaksud untuk membunuh Shinichi.
Karena teman sejak kecil Shinichi, Ran Mouri, memiliki firasat buruk terhadap Shinichi, maka Ran pun mencari- cari Shinichi. Tempat yang pertama dicari Ran adalah rumah Shinichi. Kebetulan Profesor Agasa dan Shinichi yang tubuhnya menyusut ada disana, ketika Ran Mouri menanyakan nama dari bocah kecil yang sebenarnya Shinichi yang tubuhnya menyusut, dia menyebutkan bahwa namanya adalah "Conan Edogawa". Nama "Conan" berasal dari nama pengarang buku detektif terkenal Sherlock Holmes, Sir Arthur Conan Doyle, sedangkan nama "Edogawa" berasal dari nama Edogawa Ranpo. Edogawa Ranpo adalah pengarang novel detektif yang paling terkenal di Jepang. Conan lalu mulai mencari tahu seluk beluk organisasi misterius tersebut sambil tinggal di rumahnya Ran Mouri yang berada di daerah Beika. Nama Beika merupakan rujukan dari nama jalan tempat tinggal Sherlock Holmes (Baker Street). Baker di Jepang diucapkan sebagai Beika.
Karena mengecilnya tubuh Shinichi, analisis Conan sama sekali tidak dipercaya polisi karena dianggap sebagai anak kecil. Jadi, Conan terpaksa membuat ayah Ran, Kogoro Mouri, yang merupakan seorang detektif payah, untuk memecahkan berbagai kasus kejahatan, dengan harapan dapat melacak jejak organisasi tersebut. Kemudian kisah selanjutnya menjadi semakin rumit dan melibatkan berbagai individu. Conan didaftarkan oleh Profesor Agasa ke dalam SD Teitan sebagai murid kelas 1 SD pindahan dari daerah lain. Sekolah TeiTan merupakan permainan kata dalam bahasa Jepang (TanTei= Detektif). Ran Mouri pernah beberapa kali mencurigai bahwa Conan adalah Shinichi, namun karena kecerdikkan Conan, maka Ran pun percaya bahwa Conan bukanlah Shinichi.
Anggota Organisasi Hitam yang telah diketahui adalah Gin, Vodka, Vermouth, Pisco, Tequilla, Calvados, Chianti, Kir (nama asli : Hidemi Hondou, dikenal sebagai Rena Mizunashi, kakak Eisuke Hondou), Kusuda Rikumichi, Masami Hirota (nama asli : Akemi Miyano, kakaknya Ai Haibara), Sherry (nama asli : Shiho Miyano,Ai Haibara), Bourbon, Rye (nama asli : Shuichi Akai, mantan anggota organisasi ini), Hell Angel (nama asli : Elena Miyano, ibu Ai Haibara), serta Big Boss yang selalu ditampilkan secara kabur (blur) dan selalu disebut oleh Gin sebagai Anokata (orang itu).
