کانی‌ها از پیوندهای گوناگون بین اتم‌ها به وجود می‌آیند. تاکنون ۹۲ عنصر در طبیعت، شناسایی شده‌است. از بین این ۹۲ عنصر طبیعی، ۸ عنصر اکسیژن، سیلیسیم، آلومینیوم، آهن، کلسیم، سدیم، پتاسیم، و منیزیم، حدود ۹۸٫۵٪ درصد از کانی‌ها را می‌سازند. از ترکیب شدن این عنصرها با هم، کانی‌های گوناگون به‌وجود می‌آید. برای مثال، از ترکیب شدن اکسیژن با سیلیسیم، اکسید سیلیسیم SiO۲ یا کوارتز و از ترکیب شدن اکسیژن، سیلیسیم، منیزیم و آهن، الوین FeMgSiO۴ به‌دست می‌آید.

کانی‌ها علاوه بر این که از نظر ترکیب شیمیایی با هم تفاوت دارند، از نظر شکل ظاهری، رنگ، اندازه و دیگر ویژگی‌ها نیز تفاوت‌های زیادی با هم دارند. این تفاوت‌ها به چگونگی شکل‌گیری آن‌ها برمی‌گردد. برخی کانی‌ها از سرد شدن ماده مذاب به‌دست می‌آیند، همه کانی‌های سنگ‌های آذرین، مانند کوارتز، فلدسپات، میکا و الوین این گونه به وجود می‌آیند.

برخی دیگر از کانی‌ها از سرد شدن بخار در سطح سنگ‌ها یا شکاف‌های موجود در آن‌ها به وجود می‌آیند. سرد شدن گاز گوگرد در قله‌های آتش‌فشانی دماوند و تفتان، نمونه‌ای از این فرایند است. کانی‌های دیگری از بخار شدن محلول‌هایی به وجود می‌آیند که به اندازهٔ اشباع رسیده‌اند. برای مثال، از بخار شدن آرام دریاچه‌های مرکزی ایران، هالیت (نمک) و گچ به دست می‌آید.

برخی کانی‌ها از واکنش‌های شیمیایی یون‌ها در آب به وجود می‌آیند. برای مثال، در دریاهای گرم، یون کلسیم +۲ Ca با یون کربنات -۲(CO۳) ترکیب می‌شود و کانی کلسیت CaCO۳ ته‌نشین می‌شود. برخی کانی‌ها نیز پیامد تخریب شیمیایی کانی‌های دیگر هستند. برای مثال، از تجزیه شیمیایی فلدسپات‌ها، کانی‌های رستی (کانی‌های تشکیل‌دهنده خاک) به‌وجود می‌آیند. برخی از کانی‌ها نیز در درون زمین و تحت تأثیر گرما و فشار و واکنش با محلول‌های داغ، مانند گرافیت، بدست می‌آیند.

یکی دیگر از راه‌های تشکیل کانی منجمد شدن مواد مذاب است؛ مثل کوارتز و فلدسپات و تبخیر محلول‌های سیر شده (نمک دریا) و فراسیر شده (نمک معدن).

تشکیل کانی با کمک تجزیه کانی‌های دیگر مثل خاک رس که حاصل از خورد شدن فلدسپات است.

گروهی دیگر از کانی‌ها حاصل از تحمل فشار و گرمای شدید هستند؛ مثل زغال سنگ که می‌توان آن‌ها را در شاهرود یافت. برخی دیگر هم از سرد شدن خاکستر آتشفشان هستند؛ مثل گوگرد و توف. همچنین، سرد شدن گدازه آتشفشان باعث به تشکیل پوکه و سنگ پا می‌شود.