هنگامی که پدرش درگذشت، مادرش وی را نزد برادران خود برد. کعب در میان بنی نضیر پرورش یافت و آیینیهود را برگرفت. به این دلیل، گاه وی را از این قبیله شمرده‌اند.
پس از پیروزیمسلمانان در غزوه بدر در سال دوم، کعب به قصد برانگیختن قریش بر ضد مسلمانان به مکه رفت و در رثای کشتگان قریش شعر گفت. برخی از مسلمانان اشعار او را با اشعار دیگری پاسخ گفتند، از جمله حَسّان‌بن ثابت به دستور پیامبر، مکیانی را که به وی پناه داده بودند، هجو گفت.
کعب در بازگشت به مدینه نیز، اشعار توهین‌آمیزی در وصف زنان مسلمان سرود. او پیامبر اکرم و یارانش را نیز هجو می‌کرد و با سخنان خود به آنان آزار می‌رساند و دیگران را علیه آنان تحریک می‌کرد.
مخالف فعالیتهای اقتصادی و تجاری آنان نیز بوده است. به هنگام برپایی بازار مسلمانان در محله بقیعالزُبیرمدینه، کعب طناب‌های بازار مسلمانان را برید. ازاین‌رو، به دستور پیامبر، مکان بازار را به جایی نزدیک مسجد النبی منتقل کردند.
شرکت کنندگان در سریه ذکر شده پس از انجام دادن مأموریت خود، در آخر شب نزد پیامبر رفتند و به آن حضرت مژده دادند. به روایتی نیز، آنان در کنار بقیعتکبیر گفتند و رسول خدا دریافت که آنان موفق شده‌اند. روز بعد، یهودیان از اینکه سرورشان کشته شده بود، هراسان نزد پیامبر رفتند. پیامبر کارهای ناپسند و اشعار و آزار کعب را به آنان یادآوری کرد و آنان را به قرار صلحی دعوت نمود.
کعب بن مالک و حسان بن ثابت اشعاری درباره کشته شدن کعب بن اشرف سروده‌اند.
